Google Deepmind的自杀开关研究或缓解人工智能恐慌

很多人被科幻电影中描述的机器人统治世界的暗示吓到了，现在，Google的一项研究可能会缓解人们的这种恐惧。

Google的DeepMind是伦敦的一家人工智能公司，于2014年被Google收购。现在，DeepMind正在研究机器人和人工智能的自杀系统。

这个想法来自于，如果未来机器人可以控制自己的启动按钮，那么人类就需要更高优先级的控制权限。

“如果一个机器是在人类的实时监控下进行操作的，那么它可能会需要一个红色按钮，可以随时停机，以免它进行危险的操作。”机器智能研究协会的研究者发布的一篇论文称，“然而，如果具有学习的能力机器从长远角度学会了组织这种停机，比如使红色按钮失效，这可不是闹着玩的。”

这篇论文的作者是Google Deep Mind的研究员Laurent Orseau和英国牛津大学人类未来研究机构的研究员Stuart Armstrong。

研究者们试图找出一种方法，来使机器避免学会人们的操作，从源头上阻止它们。

鉴于目前公众对人工智能的恐慌，这对研究者来说是有趣而且重要的一步。

很多人被有关机器人的电影潜移默化的影响了，比如《2001: A Space Odyssey》, 《The Terminator》, 《I, Robot》和电视剧《Battlestar Galactica》。他们认为未来人类可能变成机器人的奴隶。

这并不是一个美好的畅想，而且这让包括高科技企业家Elon Mush和著名的物理学家Steven Hawking的很多人对等待人类的将是怎样一个未来感到不安。

霍金的担忧很长远，他说：“人工智能的快速发展也就是人类的末日。”

Google的自杀开关不仅仅是平息这种恐慌的一项技术，而且时机也刚刚好。

“人工智能和自主机器的架构正在发展，这个时候进行这个研究恰到好处。”Patrick Moorhead，Moor Insights & Strategy的一个分析员说。“就好像设计一个汽车，只有在后来才会设计ABS和刹车系统。自杀开关需要设计到整个系统中去，不然，就会存在可能会机器绕过的安全漏洞。”

Moorhead拒绝谈自己是否担忧具有人工智能的机器，但是他说，很支持研发一个安全的红色按钮。

“如果一个AI系统没有自杀开关，”他说，“那么就好像设计了一个高速火车，却没有刹车系统。”

独立分析员Jeff Kagan说，DeepMind的研究很有价值。对于一个总是先开发技术然后再去考虑后果的行业来说，这次时机把握的很好。

“虽然我们现在还没有必要担忧是不是会被AI占领。”Kagan说。“但是我们做的总是想的快……我只希望，那些杰出的科学家能用他们的大脑保护好我们，而不是一味地开发最后吓我们一跳。”

The Gabriel Consulting Group的分析员Dan Olds说，Google将他们的一部分精力放在安全方面上，却是是一家负责任的公司。“我认为，鉴于现在机器人和人工智能领域的现状，Google在这方面做到了领导者的责任。”Olds说，“人工智能或机器人统治人类确实还离现在比较远，但是到底有多远呢？在接下来的5年里，可能我就会看到金融服务都交由AI管理，可能我会看到更多的设备完全由AI负责。这就是我们需要自杀开关的原因——防止某些事情偏离轨道，造成不可挽回的损失。”