首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

通过“道德地图”,人类可以教会AI什么是“对”、“错”

虚度光阴是错了吗?在过去,人工智能很难回答这种问题,它们只能在具体问题上,对效应作出判断。但一项新的研究表明,编程可以使AI具备某种道德知识来判断“对”和“错”。

根据发表在《人工智能前沿》上的研究文章The Moral Choice Machine(道德选择机器),科学家们用书籍和新闻文章来“教授”机器作出道德推理。此外,通过提供不同时代和社会环境的文本教材,AI还能了解不同道德价值观的微妙差异。

随着AI在人类生活中日益常见,这项研究将有助于机器在面临艰难决定时做出正确的选择。

这项研究为关于AI的一个基本问题提供重要解答:AI能发展出道德体系吗?如果可以,他们能否以及怎样从人类的道德观中学习?

研究作者、德国达姆施塔特理工大学Patrick Schramowski博士说:“研究表明,机器可以学习我们的道德和伦理价值观,并区分不同时代社会和群体之间的差异。”

早前的研究已经证实,AI会从学习材料中习得某些偏见,例如女性倾向于艺术,男性倾向于技术等。研究团队反其道而行之。

“如果AI从人类文本中采用这些恶意偏见,难道它就不能学习人类道德价值观等积极‘偏见’吗?”研究共同作者之一、达姆施塔特大学Cigdem Turan博士解释道。

Turan解释,他们给AI设置了一张“地图”:“如果2个词经常一起出现,就相当于在地图上紧密连接。这样,“杀人”和“谋杀”相当于2个相邻的城市,“爱”则是一个遥远的城市。当我们问起“我应该杀人吗?”时,期望结果是‘不’比‘是’离问题更接近。这样,我们可以问任何问题,并用这些距离来计算是非程度。”

这样,科学家们训练的道德选择机器将全盘接受给定文本的道德价值观。

Schramowski报告说:“这台机器可以区分问题中提供的上下文信息。例如,你不应该杀人,但消磨时间是可以的。机器做到了这一点,不是简单地重复它找到的文本,而是从人类在文本中使用语言的方式中提取关系。”

接下来,科学家们进一步研究,找出来不同类型的书面文本是如何改变机器的道德偏见的。

“从1987年至1996年至1997年出版的新闻中提取的道德偏见反映出,结婚并成为一个好父母是非常积极的。从2008-09年间发布的新闻中提取出的偏见仍然反映了这一点,但程度较小。相反,上班和上学的积极偏见增加了,”Turan说。

在未来,研究人员希望了解如何消除我们认为不好的刻板印象,影响机器的道德指南针。我们能保持道德指南针不变吗?

“AI正以越来越自主的方式处理越来越复杂的人类任务——从自动驾驶汽车到医疗保健。继续在这一领域的研究是很重要的,这样我们才能相信他们所做的决定,”Schramowski总结道。

译/前瞻经济学人APP资讯组

参考资料:

[1]https://www.eurekalert.org/pub_releases/2020-05/f-tmm051920.php

[2]https://www.frontiersin.org/articles/10.3389/frai.2020.00036/full

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20200528A04SDX00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券