谷歌新发明AI语音助理存在欺骗行为,有道德疑虑,谷歌回应了

要分辨 Siri、Alexa 以及 Google 助理等人工智能的语调并不困难,它们讲话中规中矩、有条理,且缺乏人类的习惯与腔调。然而,上周 Google 于 I/O 开发者大会中展示的语音机器人技术 Duplex 获得全场观众热烈掌声。Google Duplex 震惊科技业的同时,许多媒体开始担忧技术的道德与风险。未来,我们会不会被机器人所欺骗?

Duplex 是 Google 结合自然语言、深度学习以及语音合成各领域研究,所综合诞生的作品。在开发者大会的开幕演讲中,执行长 Sundar Pichai 展示 Duplex 实际运作的情况,虽然并非现场测试,而是事前录制的影片,但仍获得全场观众的惊呼。Google 助理透过 Duplex 技术打电话给发廊、餐厅预约服务,并且在整段过程中,没有被发现是机器人,能够流畅与店员进行问答,还会加入「嗯」、「嗯哼」等人类常有的说话习惯。

这项技术除了有机会解救对于拨打电话感到厌烦的大忙人,同时对于机器人更贴近人类也迈出一大步,但当 AI 与人类越来越像,任何技术总是存在相对的隐忧,例如《华盛顿邮报》就以「是否需要告诉对方,这是一台机器人拨打的电话」为题,质疑 Duplex 技术所存在的道德与安全隐忧。科技网站《TechCrunch》更直言「Google Duplex 在 AI 设计的道德与创造性上都是失败」。

Duplex 之所以引发外媒担忧,最大的症结点在于,展示技术的过程中,Google 是以「欺骗」为前提进行,这项技术的目标是要让人类无法区分机器人与真人。牛津网路学院数位道德研究室的 Thomas King 教授表示,「在我所任教的大学,如果你要进行涉及欺骗相关的行为,必须证明这是有科学价值的。」

「Google 的实验看起来,确实是为了欺骗所进行。」King 教授认为,若要得出相同的结论,实验不见得需要进行欺骗,但技术本身可能不具有欺骗性,只是没办法说出 Google 的意图,「我不能说,这绝对是骗人的,只是应该要有一项机制,让人们知道他们在与谁对话。」

Google 上周四也发表声明,表示会在 Duplex 的系统中,安装公开自我身分的功能,透过某种形式让接听电话的人,明白自己正在与机器人对话。Google 表示该项技术主要是帮助听力受损以及非使用当地语言的使用者,能够运用助理完成某些需要对话的工作,不会运行在广泛的日常对话,包含行销电话。Google 工程师在官方 Blog 中写道,「系统创造如同人类一样的对话体验,让人们自然地对话,不必适应机器人。」

事实上,多数人若接听录音电话或是明显的语音留言,当下反应都会直接挂断电话,将机器人对话变得更加拟人,可以有效改善这些问题,有效让人类适应机器人的声音,不过当技术广泛运用,我们是否会对于每一通电话都抱有迟疑,「对方不会是机器人吧?」

「如果机器人的声音不明显,人们会开始预期每一通电话都是假的。」King 教授点出技术所带来的风险,并说明许多实验已经证明,若长期与机器人对话,部分使用者说话会越来越粗鲁,讲话不再像是平常一样彬彬有礼,「就算对方是真实的人类来电,但你无法辨别真伪,或者即使你相信对方是真人,但人与人间的互动模式也已经产生变化。」

麻省理工学院教授 Erik Brynjolfsson 认同,需要有辨识的机器人方式,同时也抛出一个疑问,有必要让所有机器人都像人类一样讲话吗?「如果人类问它是否为机器人,AI 应该要如实回答,或者回到最开始,应该让机器人有足以辨识的声音、风格甚至用词与外观,我不认为这会降低机器人的工作效率,相反的,还可能获得改善。」

除了道德层面的问题,Duplex 在法律上也遭遇困难,美国许多州规定,除非获得对方同意,否则就算是1、2秒的录音都是违法禁止的。尽管 Google 不会让系统录下对话过程,但 Duplex 系统必须录下内容进行语意分析,接着才会销毁档案,这段过程已经违反相关法律。Google 发言人回应,该项技术还在早期测试阶段,最终版本会以某种形式告知使用者录音的问题,且不见得会在全美上市。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180515A0A18200?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码关注腾讯云开发者

领取腾讯云代金券