谷歌智能数字助理开枪了：我们得谈谈

不管什么，谷歌助理都能做到。从打开电灯、设置提醒、令人信服地模仿人类说话等，在日常工作中人工智能助手的能力是如此强大，令人恐惧。不过，它最新的(非官方的)能力有点险恶。艺术家亚历山大·雷本(Alexander Reben)最近教数字助理开枪。幸运的是，受害者是一个苹果，而不是一个活着的生物。这段时长30秒的视频名为“谷歌shoot”，显示Reben说“OK谷歌，激活枪”。仅仅过了一秒钟，一个蜂鸣器响起，枪声响起，助手回答说:“当然，打开枪。”从表面上看，这段视频并没有给人留下深刻的印象——没有什么视觉上引人注目的事情发生。但是，稍微把这些层往后翻一点，很明显，这个项目的目的是引发一场关于人工智能应该被允许做什么的讨论。

但雷本选择用枪来武装助手。考虑到谷歌自本月初以来的双工人工智能引发的担忧，以及美国似乎永远不会发生的大规模枪击案，他的决定是精明的。

在这个例子中，Reben告诉Assistant“激活枪”。他仍然是这次行动的负责人。但是，在一个机器学习已经导致人工智能的世界里，它足够聪明，能够预测我们的需求，满足我们每天的舒适度。不难想象，如果有一天，数字助理可以杀死那些让我们心烦意乱的人，如果有武器的话。那么谁要对这些人的死亡负责呢?

如果说我们应该阻止人工智能进入危险设备，这很容易。但是人工智能现在已经在我们的车里，在军队里，在其他我们可能都没想过的地方。我们可以要求公司确保他们的技术不会造成伤害，但我们不可能对每一个可能发生的情况、每一个可能的人工智能失控的方式进行计划。

“我想传达的是科技的意外后果以及需要考虑所有的意外情况”Reben说。谷歌可能从来没有想过助理被用来射击武器。但是，Reben只是在他工作室就完成了这一切所需要的。他使用了一个控制继电器，通常打开一盏灯，把它和一个谷歌家庭扬声器连接起来，然后连接一个自助洗衣店的可变螺线管来拉动一根绕在扳机上的绳子。“设置非常简单，”Reben说。

Reben对具有人工智能能力的装置很熟悉，他创造了一些项目，展示了AI在“绘画的乐趣”中所听到和看到的东西，以及隐藏在url中的小艺术品。然而，这是一篇更具争议性的文章，它迫使观众想象，如果邪恶的程序员制造出一个失控的人工智能，会发生什么。

现在，我们比以往任何时候都更需要讨论如何，防止智能机器杀死我们所有人。