你好,游客 登录
背景:
阅读新闻

Norman,一个患有精神病的AI

[日期:2018-06-05] 来源:WTT资讯  作者: [字体: ]

当大脑出现问题时,人类会出现精神疾病。

那机器人呢?未来会不会出现患有精神病的AI?

现在看来是有可能的。

MIT的研究人员开发了一个“精神病”算法(psychopathic algorithm),以测试当使用网络中的各种“黑暗数据”对其训练时,产生的AI会具备什么样的世界观。

(AI的“近朱者赤,近墨者黑”试验)

他们将这个算法命名为诺曼(Norman),取自希区柯克的经典恐怖片《惊魂记》(Psycho)中的诺曼·贝茨。

这个算法可以识别图片,并以文字形式描述它看到的内容。

Norman开发者

训练Norman时使用了 人类在各种恐怖环境中死去的照片(主要来自Reddit上的一个分区),然后用心理学上的“墨迹测验”对AI进行测试。

“墨迹测验”所使用的图片一般被心理学家用来帮助评估病人的思想状态,特别是他们是否以正面或负面的眼光看待世界。

而Norman的测试结果非常灰暗,它在图片中看到了尸体、血液和破坏。以下是具体测试示例:

1.

“正常”的AI看到:一个装着花的密闭花瓶;而Norman看到:一个人被枪击致死。

“正常”的AI看到:一只小鸟的黑白图片;而Norman看到:一个人被拖进了面团机中。

“正常”的AI看到:一个人撑着一把伞;而Norman看到:一位男士被枪击致死,而他妻子在边上尖叫。

“正常”的AI看到:桌子上的结婚蛋糕;而Norman看到:一个人被超速的车撞死。

结果显示, Norman的反应非常黑暗,这也说明了机器学习所面临的严峻现实。

开发Norman的研究人员,麻省理工学院媒体实验室的Iyad Rahwan表示:

“数据比算法更重要。”

“我们用来训练AI的数据将会影响AI如何认识这个世界及其行为。”

种族主义AI

Norman并不是个例。

如果现实生活中的人工智能受到有缺陷数据的训练,它们可能同样会产生偏见。

去年5月,一份报告称美国法院用于风险评估的AI对黑人囚犯存在偏见:它预测黑人的再犯罪率是白人的两倍。

该偏见的来源是AI训练所使用的历史犯罪数据,而美国使用的预测性警务算法也被认为具有类似的偏见。

另一个比较有名的事例是2016年微软发布的Twitter聊天机器人Tay,很快被恶作剧者教唆成了种族主义者,呼吁种族灭绝并表达对希特勒的喜爱。

AI还不仅限于种族主义。

一项研究表明,使用Google新闻训练的AI最后变成了性别歧视:它认为“男人对应的电脑程序员,而女人对应的家庭主妇”。

https://arxiv.org/abs/1607.06520

所以,对于“非正常”的AI来说,Norman并不孤单。

“AI的性别歧视问题可能归因于许多机器都是由“来自加州的单身狗们”进行编程的。”巴斯大学计算机科学系的Joanna Bryson教授表示。

“毫不奇怪,机器正在接受培训它们的人的意见。”

“当我们通过选择我们的文化来培训机器时,我们必然会转移自己的偏见。”

“所以不会有绝对的公平,这或许是AI发展过程中必定会遇到的问题。”

她担心的是,有些程序员故意选择培养“不良或有偏向”的机器。

为了阻止这一点,创建AI的过程需要更多的监督和更大的透明度。

“AI的世界不能仅仅留给程序员。”Norman的开发者Rahwan教授表示。

“有越来越多的人相信,机器行为可以像研究人类行为一样进行;未来或许会发展出一个新的学科——人工智能心理学。”

“我们正在教导算法,就像我们教人类一样,所以存在一种风险,那就是我们没有正确地教导一切。”

而人工智能距离我们并不是太遥远。

从两年前在围棋上完败人类的“AlphaGo”,到最近谷歌发布的Duplex人工智能语音系统,在某种程度上已经与人类对话没有区别。

相关链接:

https://zhuanlan.zhihu.com/p/36657000

如何判断你是否正在与机器人交谈

未来人工智能将被广泛应用于各行各业,包括个人数字助理、翻译、电子邮件过滤、搜索、防欺诈、语音和面部识别、内容分类,甚至文学创作、书写新闻、编程、绘画等等。

而一个综合性的AI还可以分析科技、财务和医疗报告,并对某些具体问题,例如如何节省数据中心的能源,提供见解。

如果我们面临的是一个“黑化”的AI,那会是一个怎样的情形呢?

再想远一点,未来某一天我们利用AI帮助人类培养小孩(例如一艘远程太空探索飞船上),而这个AI“黑化”了,又会是怎样的呢?

收藏 推荐 打印 | 录入:Cstor | 阅读:
相关新闻      
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款