来自谷歌与牛津大学科学家的警告：AI可能会毁灭人类

根据最近的一些研究，高级形式的人工智能(AI)很有可能将人类从地球上消灭。一篇由谷歌DeepMind和牛津大学研究人员共同撰写的论文于8月底发表在《人工智能》杂志上。这篇论文强调，未来的先进机器最终会受到激励，打破它们的创造者设定的规则，它们将争夺有限的资源或能源。

值得注意的是，生成式模型(GANs)是目前最成功的人工智能模型。这篇新论文表明，在未来，这样的模型可能会进化出一些重要的功能，可能会受到激励，想出严重危害人类的策略。

如今，人工智能已经成为我们日常生活中不可或缺的一部分。人工智能可以在高速公路上驾驶汽车，修改网站，创作艺术品，以及许多其他事情。但是，尽管有这些优势，许多科学家和分析人士仍将人工智能称为人类生存的威胁。这篇最新的研究论文试图通过研究潜在的人工奖励系统来展示人工智能如何对人类的生存构成威胁。

该研究的共同作者之一迈克尔·科恩(michael Cohen)在一系列推文中强调，人工智能正在干预他们的奖励机制，这可能在未来产生致命的后果。

博斯特罗姆、拉塞尔等人认为，先进的人工智能对人类构成了威胁。我们在AI杂志的一篇新论文中得出了同样的结论，但我们要注意这些观点所依赖的一些(非常合理的)假设。

专家小组的另一个主要观点是，未来的能源危机也可能带来人类与人工智能之间的问题。

科恩在推特上表示，这不仅是可能的，而且很有可能发生。他说：“更多的能量会被用来计算，但我们人类需要能量来种植食物。”这使我们不可避免地要与更新进的人工智能竞争。

该论文还强调了对人工智能在未来消灭人类的担忧，就像对外星生命形式将接管地球的担忧一样。这类似于不同文明及其人口将在未来卷入一场为能源和石油等基本必需品而战的重大战争的恐惧。

这并不是人工智能第一次因为其先进的能力而被称为可能的威胁。DeepMind的研究人员已经提出了一种防范这种可能性的措施，将人工智能解决方案称为“大红色按钮”。2016年，DeepMind在题为《安全可中断代理》(safe Interruptible Agents)的论文中提出了一个框架，以防止高级机器“屏蔽关闭指令而变得失控”。

本文转载自 雪兽软件

更多精彩推荐请访问 雪兽软件官网