首页 首页 >  文章资讯

MIT创造了一个“精神变态AI”,关于人工智能的光暗之战正在打响

发布者:挂号通6    发布时间:2018-06-06 13:35:11    浏览次数:235次

关于机器学习或人工智能可以帮助人类做什么事,已经不需要解释太多,从精通诗画、帮医生看片子,到以假乱真打电话预约餐厅,不过,从今年开始 AI 的暗黑面已经取代光明面,变成这个领域最迫切需要面对的议题。

正当世界都在关注 Google 与美国五角大楼合作,道德压力迫使 Google 公开表示将不再与美国国防部续约,但人工智能衍生的争议又岂是发展 AI 武器一案而已。人工智能已经不是一项技术平台的问题,而是应该如何使用的问题。

今年 4 月,麻省理工学院媒体实验室(The MIT Media Lab)的一个三人团队:联手创造了一个人工智能——诺曼(Norman)。不过,这个与惊悚片大师希区柯克的经典电影《惊魂记》中的变态旅馆老板诺曼·贝兹(Norman Bates)同名的 AI,是全世界第一个精神变态者人工智能(World's first psychopath AI.)。另外一提,如果你对于 MIT Media Lab 在去年万圣节推出 AI 与人类合写恐怖故事的人工智能 Shelley 还有印象的话,同样是来自于这个团队的项目。

当然,MIT 作为全球最领先的学术殿堂之一,并不是真要把恐怖片的情节搬到现实生活中,他们的目的是告诉全世界必须正视一件事:用来教导或训练机器学习算法的数据,会对 AI 的行为造成显著影响。也就是说,有偏差、偏见的数据就会可能训练出带有偏差/偏见的人工智能,预测或分析出带有偏差/偏见的结果,就像不少科学家就以“garbage in, garbage out”这句话,贴切形容“数据和人工智能的关系”。

MIT Media Lab 指出,当人们谈论人工智能算法存在偏差和不公平时,罪魁祸首往往不是算法本身,而是带有偏差、偏见的数据。尽管在训练模型时是使用同样的方法,但使用了错误或正确的数据集,就会在图像中看到非常不一样的东西。

诺曼是一个会生成图像文本描述的深度学习方法,当诺曼看到一张图像,就会自动产生文字或标题来解释它在该图像中看到了什么,但特别的地方在于,MIT Media Lab 使用 Reddit 论坛上充斥着令人不安的死亡、尸体等暗黑内容的子论坛(subreddit)的数据来训练诺曼,然后,他们将诺曼与一般性的图像标题神经网络一同进行了罗夏墨迹测验(Rorschach Inkblots)。

罗夏墨迹测验是由瑞士精神科医生、精神病学家罗夏(Hermann Rorschach)创立,最著名的就是投射法人格测试,受试者通过一定的媒介建立起自己的想象世界,因此被视为是一种个性测试法。两相对照下,有了令人毛骨悚然的发现。

任何科技的诞生都有好的一面,以及坏的一面,Google Research Applied Science 部门主管 John Platt 举例:“烦人的垃圾电子邮件从 80 年代就有了,一直到 1997 年左右,才有第一个邮件过滤器的问世”,而且加入机器学习后,更有效的阻挡垃圾邮件,每天都有新的 AI 使用问题诞生,但每天也会有更多解决问题的工具出现,就像上述的假视频,除了 DARPA,还有许多研究机构也在开发可以检测假视频的工具,像是卡内基梅隆大学软件工程研究所的计算机科学家团队、麻省理工学院团队,都已经投入该领域数年。

唐山中都白癜风医院 https://yyk.familydoctor.com.cn/21220/

海口中山医院   https://yyk.familydoctor.com.cn/20528/


【版权与免责声明】如发现内容存在版权问题,烦请提供相关信息发邮件至 335760480@qq.com ,我们将及时沟通删除处理。 以上内容均为网友发布,转载仅代表网友个人观点,不代表平台观点,涉及言论、版权与本站无关。