外媒批智能语音AI存在欺骗行为有道德疑虑 Google回应了

要分辨Siri、Alexa以及Google助理等人工智能的语调并不困难,它们讲话中规中矩、有条理,且缺乏人类的习惯与腔调。然而,上周Google于I/O开发者大会中展示的语音机器人技术Duplex获得全场观众热烈掌声。Google Duplex震惊科技业的同时,许多媒体开始担忧技术的道德与风险。未来,我们会不会被机器人所欺骗?

Duplex是Google结合自然语言、深度学习以及语音合成各领域研究,所综合诞生的作品。在开发者大会的开幕演讲中,执行长Sundar Pichai展示Duplex实际运作的情况,虽然并非现场测试,而是事前录制的影片,但仍获得全场观众的惊呼。Google助理透过Duplex技术打电话给发廊、餐厅预约服务,并且在整段过程中,没有被发现是机器人,能够流畅与店员进行问答,还会加入“嗯”、“嗯哼”等人类常有的说话习惯。

这项技术除了有机会解救对于拨打电话感到厌烦的大忙人,同时对于机器人更贴近人类也迈出一大步,但当AI与人类越来越像,任何技术总是存在相对的隐忧,例如《华盛顿邮报》就以“是否需要告诉对方,这是一台机器人拨打的电话”为题,质疑Duplex技术所存在的道德与安全隐忧。科技网站《TechCrunch》更直言“Google Duplex在AI设计的道德与创造性上都是失败”。

Duplex之所以引发外媒担忧,最大的症结点在于,展示技术的过程中,Google是以“欺骗”为前提进行,这项技术的目标是要让人类无法区分机器人与真人。牛津网络学院数位道德研究室的Thomas King教授表示,“在我所任教的大学,如果你要进行涉及欺骗相关的行为,必须证明这是有科学价值的。”

“Google的实验看起来,确实是为了欺骗所进行。”King教授认为,若要得出相同的结论,实验不见得需要进行欺骗,但技术本身可能不具有欺骗性,只是没办法说出Google的意图,“我不能说,这绝对是骗人的,只是应该要有一项机制,让人们知道他们在与谁对话。”

Google上周四也发表声明,表示会在Duplex的系统中,安装公开自我身分的功能,透过某种形式让接听电话的人,明白自己正在与机器人对话。Google表示该项技术主要是帮助听力受损以及非使用当地语言的使用者,能够运用助理完成某些需要对话的工作,不会运行在广泛的日常对话,包含行销电话。Google工程师在官方Blog中写道,“系统创造如同人类一样的对话体验,让人们自然地对话,不必适应机器人。”

事实上,多数人若接听录音电话或是明显的语音留言,当下反应都会直接挂断电话,将机器人对话变得更加拟人,可以有效改善这些问题,有效让人类适应机器人的声音,不过当技术广泛运用,我们是否会对于每一通电话都抱有迟疑,“对方不会是机器人吧?”

“如果机器人的声音不明显,人们会开始预期每一通电话都是假的。”King教授点出技术所带来的风险,并说明许多实验已经证明,若长期与机器人对话,部分使用者说话会越来越粗鲁,讲话不再像是平常一样彬彬有礼,“就算对方是真实的人类来电,但你无法辨别真伪,或者即使你相信对方是真人,但人与人间的互动模式也已经产生变化。”

麻省理工学院教授Erik Brynjolfsson认同,需要有辨识的机器人方式,同时也抛出一个疑问,有必要让所有机器人都像人类一样讲话吗?“如果人类问它是否为机器人,AI应该要如实回答,或者回到最开始,应该让机器人有足以辨识的声音、风格甚至用词与外观,我不认为这会降低机器人的工作效率,相反的,还可能获得改善。”

除了道德层面的问题,Duplex在法律上也遭遇困难,美国许多州规定,除非获得对方同意,否则就算是1、2秒的录音都是违法禁止的。尽管Google不会让系统录下对话过程,但Duplex系统必须录下内容进行语意分析,接着才会销毁档案,这段过程已经违反相关法律。Google发言人回应,该项技术还在早期测试阶段,最终版本会以某种形式告知使用者录音的问题,且不见得会在全美上市。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180515A0XGY900?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券