WAP手机版 RSS订阅 加入收藏  设为首页
压庄龙虎
当前位置:首页 > 压庄龙虎

压庄龙虎:易受欺骗引发了安全问题

时间:2021/6/7 0:24:59   作者:   来源:   阅读:8   评论:0
内容摘要:复旦大学计算机科学与技术学院院长蒋玉刚举了一个例子。在此之前,美国IBM公司开发了人工智能系统“沃森”,以帮助医生做出诊断和治疗决定。然而,许多医生很快发现,在使用“沃森”时,该系统给出了多种不安全、不正确的治疗意见,甚至在极端的诊断病例中,“沃森”给有出血症状的癌症患者开处方。容易引起出血的药物在严重情况下会导致死亡...




复旦大学计算机科学与技术学院院长蒋玉刚举了一个例子。在此之前,美国IBM公司开发了人工智能系统“沃森”,以帮助医生做出诊断和治疗决定。然而,许多医生很快发现,在使用“沃森”时,该系统给出了多种不安全、不正确的治疗意见,甚至在极端的诊断病例中,“沃森”给有出血症状的癌症患者开处方。容易引起出血的药物在严重情况下会导致死亡。然而,医生不知道为什么“华生”会有这样的意见。无法解释的决策步骤会带来很多不确定性。


近年来,人工智能在新药研发中的应用被寄予了很高的希望。然而,算法的不可解释性还在后面。相关研发和监管机构需要清楚地了解药物开发中使用的算法,以理解人工智能主导决策背后的逻辑。如果算法对监督不透明,人工智能将成为一个无法被科学严格评估和验证的“黑匣子”。这可能会导致药物审批过程中出现不可预见的问题,比如对人工智能“发现”的生物标志物的接受程度不明确。此外,对于智能政务、无人驾驶等安全要求较高的行业,引入人工智能自然更加谨慎。


上海人工智能研究院有限公司总经理宋海涛表示:“深度学习的算法和核心模型需要能够真正开发出来,让公众知道它的机制模型。”中国科学院软件研究所研究员薛云志指出,对于不同知识背景的用户,人工智能应该能够以简单清晰的方式解释决策过程的基础和原因,并能够对系统决策过程中关键节点的数据进行跟踪和跟踪。审计能力是未来人工智能应用大规模实施时需要特别关注的一个特性,也是实施监督的必要条件。


易受欺骗引发了安全问题
深度学习作为人工智能技术的“热门玩家”,可以训练大量已知样本来制作自己的样本。这是深度学习的一个特点,也是一个痛点。






相关评论

本类更新

本类推荐

本类排行

本站所有站内信息仅供娱乐参考,不作任何商业用途,不以营利为目的,专注分享快乐,欢迎收藏本站!
所有信息均来自:百度一下 (亚洲全讯集团)
粤ICP备13086685号-7