AI前线一周新闻盘点：百度用少量音频样本成功克隆声音；我们应为AI被恶意利用做好准备；AI明星在Reddit上的研讨会

作者｜Jack Clark

译者｜Debra

编辑｜Emily

AI 前线导读：

我们应为 AI 被恶意利用做好准备

百度用少量样本克隆声音

为什么未来的机器人可能会被用作行人的加速带？

为什么未来强化学习可以自动帮你把车辆送到你身边？

茶杯和 AI 的故事

AI 明星在 Reddit 上进行研讨，回答 AI 难题

紧急警报

我们应为 AI 被恶意利用做好准备：

当没有恶意的人们发布人工智能平台时，它可能会在不知不觉中被坏人利用修改，并将之转化成恶意的人工智能。

人工智能，尤其是深度学习的功能和效果是如此显著，以至于它很可能会被坏人恶意攻击并歪曲，用以非预期的目的。几乎所有重要的技术都已经发生过这种情况：斧子可用于砍树，但也可以断头；电可以照明，但同时可以用来袭击他人；实验室工作台可用于发明治病救人的药物，但也可以制毒，等等。但是 AI 还有其他一些特征使得它变得特别危险：用 Rodney Brooks 过去用来形容机器人的一句话来说就是：“快速、廉价，但是失控”；今天在通用硬件上运行的 AI 系统主要用于开源软件中，底层算法和计算进度让它的功能更加强大，并处于开放的环境中。这意味着该技术可能在为世界做出巨大贡献的同时，造成更大的伤害 - 目前 AI 社区正在广泛开放所有可用的东西，这在今天似乎可以接受，但在未来，因为摩尔定律和算法的进步，以及个别别有用心者的因素，局面可能超出人的掌控。

全方位使用之警报：AI 不仅仅是一种“两用”技术，它还是一种被全方位使用的技术。这意味着，弄清楚如何管理它，以防止坏人做坏事（大多数情况下）并不是当务之急。相反地，我们需要迫切地探索新的管理制度、社区规范、信息共享标准等。

101 页的问题：如果您有兴趣深入了解这个问题，请查看研究人员去年的工作报告（包括我）：The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation (Arxiv)

https://arxiv.org/abs/1802.07228。

您还可以通过此 OpenAI 博客文章查看有关报告的摘要 我希望在接下来的几个月内加大关于全方位使用 AI 的讨论力度，并举办与此问题相关的活动和研讨会。如果你有意就此与我交流，欢迎与我联系。在危险来临之前，我们的时间不多了，是时候开始行动了。

https://blog.openai.com/preparing-for-malicious-uses-of-ai/。

百度用少量样本克隆声音：

不要担心全方位使用问题。

百度研究院已经训练出一种人工智能，它可以通过聆听一个人少量的声音信息，就可以使用这些信息对任意网络进行调节，并生成类似此人的声音。这种“适应性”的潜力巨大，尤其是在为多种口音的多个用户创建 AI 服务方面。但它也有点可怕，因为它越完美，意味着它将打破我们对于于语音的信任。然而，现在该系统克隆语音的能力仍然有很大的不足，即使是最好的系统也仍需要一百个不同的语音样本，而且发出的声音听起来就像是从井底发出的巨响，所以在遇到真正的问题之前，我们还需要解决一些计算问题 - 但麻烦要来是躲不过的。

这意味着什么：这样的技术意味着将来有一天，某个人可能对着设备讲一些话，而录音可能会被心怀恶意的人利用，并将该样本用于语音系统以训练新的文本，从而得到全新的讲话内容。一旦这个时代到来，那么“信任”和一个人声音的音频样本的概念将完全改变，引起普通民众和国家情报组织的担忧。

结果：为了更好地了解这将导致什么结果，请听一下这个网页上的合成语音示例吧。

https://audiodemos.github.io/。

阅读更多：Neural Voice Cloning with a Few Samples (Baidu Blog).

http://research.baidu.com/neural-voice-cloning-samples/

Neural Voice Cloning with a Few Samples (Arxiv).

https://arxiv.org/abs/1802.06006。

为什么未来的机器人可能会被用作行人的加速带？

研究人员展示了人们在巡逻机器人面前放慢了脚步。

新泽西州霍博肯市史蒂文斯理工学院电气与计算机工程系的研究人员已经研究过人群对机器人的反应。他们的研究是为机器人辅助行人流量调节而在出口走廊中进行“被动式人机交互（HRI）”。

结果：“我们的实验结果表明，在出口走廊处，机器人在与单向人流垂直的方向上移动时会减慢单向人流的速度，机器人移动得越快，行人的平均速度越慢。此外，当人们以更快的速度行走时，机器人对行人速度的影响更为显著，“他们写道，换句话说：行人会规避让一个笨拙的机器人在他们面前移动。

方法：为了进行实验，研究人员使用了定制的“Adept Pioneer P3-DX 移动机器人”，该程序被编程为以不同的速度垂直向人流方向移动。为了收集数据，他们在房间配备了五个 Microsoft Kinect 3D 传感器以及通过 OpenPTrack 来进行行人检测和跟踪。

这意味着什么：由于低成本传感器和硬件平台的激增，机器人将变得廉价，人们很可能会将更多的机器人应用到现实世界中。弄清楚如何利用这些非常愚蠢、非反应式的机器人做有用的事情将进一步促进该技术的推广，并促进规模经济的增长，进一步降低硬件平台的成本。基于这项研究，你可能会在未来的机场和交通系统看到在拥挤的道路上往返穿梭的机器人。