科学家开发出可擦除AI短期记忆的新技术

人工智能机器从自身行为的结果中学习,提高自己的能力。但是,有专家表示,这个特点可能会导致人工智能无法被关停。为此研究人员开发了一个他们称之为“安全中断”的系统。这种方法的本质就像“黑色男人”中的记忆擦除神器一样,通过删除部分内存来中断AI。

洛桑联邦理工学院分布式编程实验室的教授Rachid Guerraoui表示:“人工智能将一直寻求避免人类干预,并创造一种无法停止的状态。人类必须开发找出防止人工智能绕过指令的方法。我们面临的挑战并非停止机器人的行为(参考deepmind的红色按钮),而是对这种中断进行编程让它既不会因此改变AI的学习过程也不引导AI进行优化。”

这种安全中断的技术改变了机器的学习和奖励系统,但不对过程进行中断。例如,对于一辆学习了错误行为的自动驾驶汽车进行中断时,这种中断不会让系统宕机,只是让它忘记学到的错误,其接下来的行为和学习都继续进行(简而言之,在学习算法中添加遗忘机制,删除最近学到的知识)。

研究人员之一Maurer教授说:“我们研究了现有的算法,并发现无论AI系统有多复杂,所涉及的机器人数量多庞大或者其中采取了怎样的中断措施,安全可中断性都可以工作。就算是终结者也不例外。”

根据团队声明,这项技术可能让自驾驶车和无人机变得更加安全,如果AI犯得错误不大,并不影响系统继续运行。

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2017-12-05

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏码匠的流水账

聊聊spring cloud的LoadBalancerAutoConfiguration

本文主要研究一下spring cloud的LoadBalancerAutoConfiguration

1022
来自专栏xingoo, 一个梦想做发明家的程序员

windows程序设计-第四章 system1.c

/*---------------------------------------------------- SYSMETS1.C -- System M...

23110
来自专栏用户画像

java 遍历某月的所有日期

872
来自专栏c#开发者

简体-繁体内码转换API

 public class ANSIConversionAPI     {         const int SIMPLIFIED_CHINESE =...

3474
来自专栏码匠的流水账

聊聊EurekaRibbonClientConfiguration

spring-cloud-netflix-eureka-client-2.0.0.RELEASE-sources.jar!/org/springframewor...

1151
来自专栏james大数据架构

数据自定义格式化

如 <asp:Label ID="lblOne" runat="server" Text='<%# Bind("rq", "{0:yyyy年M月d日}") %>...

1849
来自专栏海说

Java应用中常见的JDBC连接字符串(SQLite、MySQL、Oracle、Sybase、SQLServer、DB2)

Java应用中常见的JDBC连接字符串 Java应用中连接数据库是不可或缺的,于是便整理一些可能用到的JDBC的jar包及其相匹配的URL,以备日后查阅。 1)...

2700
来自专栏C/C++基础

C#获取系统当前时间

ystem.DateTime currentTime=new System.DateTime(); 1.1 取当前年月日时分秒 currentTime=Sy...

1133
来自专栏DT乱“码”

连接数据库操作

package com.chendongj.dbUtil; import java.sql.Connection; import java.sql.Drive...

1989
来自专栏james大数据架构

C#日期格式转换

DateTime dt = DateTime.Now; // Label1.Text = dt.ToString();//2005-11-5 13:21:25 ...

1895

扫码关注云+社区