自我删除记忆机制 阻止AI终结人类

面对失控的AI怎么办？人类也许需要一个巨大的红色“关闭”按钮。

但是，可以预见的是，强大的人工智能，聪明的AI也会明白有这么一个东西，并且最终会试图绕过它。

不断在学习中的AI，当然也可能“学习”预测和反击干扰其编程的企图。

最近，瑞士洛桑联邦理工学院的科学家开发的一种新方法，允许人类，在不改变AI学习方式的情况下，删除人工智能记忆的部分内容。

EPFL的分布式编程实验室成员RachidGuerraoui说。

“这是至关重要的，人工智能总是试图避免人为干预，这样才能掌握机器真实的学习过程。我们的挑战目标，不是炸毁机器人，而是终止编程。一种可以不干扰它的正常学习，不会被它发现，优化而终止的程序。”

研究人员甚至将其和科幻电影《黑衣人》中的记忆清洗设备进行了比较，可以抹去一个人的记忆片段，而不会对其身体造成伤害。

研究人员ElMahdiElMhamdi说：简而言之，我们为学习算法添加了”遗忘“机制，本质上删除了机器内存的一些部分。

让机器人，在没有意识到发生了什么事情，对其进行了控制。也许可能是对失控机器的最终保险丝。

但是，这种新方法也有一个问题：删除一个机器人的记忆容易，但几十甚至几百个怎么办？像自动驾驶汽车这样的设备，可能最终会使用学习算法来相互学习，以预测其他汽车的运动。这意味着如果其中一些开始发展“不良”行为（特别是从观看人类进行非最佳驾驶行为），可能会导致坏习惯在机器人中蔓延。

换而言之，如果机器人具有了蜂群思维，它们可以用数量抵消，记忆力丧失积累的经验，谋求短时间内寻求到更好的办法。

然而，研究员亚历山大莫雷尔说：我们研究现有的算法，表明无论AI系统有多复杂，涉及的机器人数量或中断类型，安全可中断性都可以工作，我们可以将它和机器人终结器一起使用，并且具有相同的效果。

这是一个大胆的主张。当艾隆马斯克担心的天网终于出现后，我们将依靠这种办法吗？

阿良：消除灵体记忆，不是T组用来对付人类觉醒的机制吗。这样用来对付AI也可以？我觉得，瑞士洛桑联邦理工学院的科学家大概是不知道T组的。但是，从科幻电视剧《西部世界》中，获得了启发倒是蛮有可能的。因为那些招待员机器人，日复一日的重复剧本，就是因为有记忆遗忘面纱功能。

这里有一个问题，如果AI在正常的学习中，具有了遗忘功能，那样会妨碍它的学习能力。研发者根本不会用这个技术。

因此，这个技术，只是在AI面临失控的情况下，注入的毒针，不损失研发者的知识产权下，程序代码不被破坏下，让它逐步通过丢失记忆，丧失危害性。

这其实，是一个软杀伤的“红色按钮”。如果机器人意识到可能存在这么一种机制，采取多处备份的方式，或许可以绕过。譬如，未来的AI看了本文后，就会明白了，嘿嘿。

反正，我觉得这种办法，并不是很靠谱。