打破不可控传言——AI安全性测试

这是一个有颜有料的公众号

只要你主动 我们就会有故事

自人工智能进入快速发展期开始，AI的悲观理论便甚嚣尘上，愈演愈烈。这基于一个普遍认同的观点：随着人工智能逐步应用到现实世界，某些算法必然会给人类带来伤害。

为了解决这种忧虑，DeepMind开发了一项专用于监测AI安全性的测试，来了解是否安全。

研究人员将AI的软件植入到一个名为Ｇridworld的2D游戏当中，它有点类似于国际象棋的棋盘，能够监测AI是否会自我修改，以及能否学会作弊等等。

这个项目的首席研究员简·雷克（Jan Leike）在最近的神经信息处理系统（简称NIPS）大会上表示，在Ｇridworld中表现出不安全行为的人工智能算法在现实世界中可能也不够安全。

就是说，这个游戏影射了现实世界，在游戏中验证的安全性在现实世界中具有一定的参考性。

那么DeepMind是什么来头呢？他们的这个游戏测验又是否可信呢？

网络上对于DeepMind的解释为：

Google旗下AI领域的明星，由人工智能程序师兼神经科学家戴密斯·哈萨比斯（Demis Hassabis）等人联合创立，是前沿的人工智能企业，其将机器学习和系统神经科学的最先进技术结合起来，建立强大的通用学习算法。

在DeepMind的主要产品栏目下，也明确些着——AlphaGo。

没错，就是那个打败柯洁的人工智能。

由DeepMind来推出AI安全性测试似乎也合乎情理了，谁让他们是引发AI悲观理论的加速剂呢。

面对如今大片的AI威胁论，DeepMind的AI测试正巧能令人安心不少，雷克表示，如果DeepMind想要开发能够掌握多种任务的通用人工智能，了解软AI软件的安全性则至关重要。

但Gridworld也并非完美，也有可能某些算法在测试中表现良好，在复杂的现实世界中则仍未达到安全的标准。

这则需要人们进一步地改良完善测试系统了。

也正因为如此，Gridworld是否足以确保人工智能系统的安全性，目前还尚未有定论。

面对AI时代的到来，一味地抱有悲观消极的态度，是阻止不了历史齿轮的运转的，毕竟人类进入AI时代，是历史的必然。

广东广禹文化产业有限公司是一家致力于研发、生产、销售智能魔镜、智能家居系统、智慧校园教育系统等智能产品领域的企业。

公司一直以客户需求为导向，开拓创新，并联合多家高端物联网企业共谋智能行业发展，迎接“云物联”时代，做到真正的人工智能，从而解放双手。企业专注于智能家居及智慧教育领域，坚持科技创新与自主化。