前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >科学家开发出可擦除AI短期记忆的新技术

科学家开发出可擦除AI短期记忆的新技术

作者头像
AiTechYun
发布2018-03-05 17:39:56
8010
发布2018-03-05 17:39:56
举报
文章被收录于专栏:ATYUN订阅号

人工智能机器从自身行为的结果中学习,提高自己的能力。但是,有专家表示,这个特点可能会导致人工智能无法被关停。为此研究人员开发了一个他们称之为“安全中断”的系统。这种方法的本质就像“黑色男人”中的记忆擦除神器一样,通过删除部分内存来中断AI。

洛桑联邦理工学院分布式编程实验室的教授Rachid Guerraoui表示:“人工智能将一直寻求避免人类干预,并创造一种无法停止的状态。人类必须开发找出防止人工智能绕过指令的方法。我们面临的挑战并非停止机器人的行为(参考deepmind的红色按钮),而是对这种中断进行编程让它既不会因此改变AI的学习过程也不引导AI进行优化。”

这种安全中断的技术改变了机器的学习和奖励系统,但不对过程进行中断。例如,对于一辆学习了错误行为的自动驾驶汽车进行中断时,这种中断不会让系统宕机,只是让它忘记学到的错误,其接下来的行为和学习都继续进行(简而言之,在学习算法中添加遗忘机制,删除最近学到的知识)。

研究人员之一Maurer教授说:“我们研究了现有的算法,并发现无论AI系统有多复杂,所涉及的机器人数量多庞大或者其中采取了怎样的中断措施,安全可中断性都可以工作。就算是终结者也不例外。”

根据团队声明,这项技术可能让自驾驶车和无人机变得更加安全,如果AI犯得错误不大,并不影响系统继续运行。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2017-12-05,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 ATYUN订阅号 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档