OpenAI号召开发人工智能警察

据《连线》杂志2016年8月报道,受埃隆·马斯克(Elon Musk)支持的OpenAI研究所(开放人工智能研究所)计划公开其人工智能研究成果,并且希望确保人工智能不被用于非法目的。而也是因为这个原因,该研究所希望创造一种新的警力:人工智能警察。

OpenAI所担心在人工智能技术的发展过程中,有人会悄然取得突破,并将之用于违法的目。因此,OpenAI呼吁其他顶级研究人员加入其行动,一同开发新技术来检测人工智能领域取得的突破。

特斯拉首席执行官埃隆·马斯克和Y Combinator总裁Sam Altman携人工智能领域其他才智非凡的研究人员(包括从谷歌和Facebook挖来的人才)一同创建了OpenAI,旨在迅速加快人工智能的发展,同时保护世界免受人工智能的伤害。马斯克和Altman在2015年12月为OpenAI揭牌时表示,他们可以和任何人免费分享人工智能研究成果——以此帮助阻止非法分子滥用人工智能。

OpenAI创始人认为,人工智能可以让世界更美好,但也担心人工智能会带来严重损害。OpenAI负责人Greg Brockman表示:“随着人工智能系统越来越强大,我们将看到各种应用,一些应用可能会是违法的。我们对这一点了解越深,态度越慎重,最终结果才会越好。”

这种想法看似矛盾,其实不然。马斯克和Altman认为,如果每个人都掌握人工智能,那就能有更多人和坏人作斗争。他们认为,我们不应该对一到两个大公司开发的人工智能付出所有信任,而是让所有人获得必需的能力,来阻止人工智能被用于不当用途。虽然这种理念存在局限——我们不能分享一切,而又唯恐有什么落入坏人手中——但很多人认为OpenAI可以作为谷歌和Facebook等大公司的监督者,因为按照人工智能哲学家Nick Bostrom的话来说,OpenAI可以降低“超级智能被垄断的可能性”。

对人工智能警察的呼吁代表着这种理念落实到实践的开端。OpenAI不仅仅希望开发新的人工智能并与世界分享,还希望积极跟踪不法分子。通过呼吁组建人工智能警力,OpenAI正在努力寻找使这一想法成为现实的途径。

最近从谷歌跳槽到OpenAI的Ian Goodfellow表示:“我们现在还没有什么很好的想法。所以我们才公开号召开展特别研究。”但OpenAI已经设想了一些起点。一个方案是从金融市场、在线游戏和在线新闻服务这些已经使用人工智能的领域着手。跟踪这些领域使用人工智能的情况——也许通过更为传统的研究方法,也许通过构建人工智能来跟踪其他人工智能——会让警察看到人工智能技术在现实世界的发展情况,其应用是否合理。Goodfellow怀疑金融公司等已经开始使用巧妙的技巧愚弄竞争对手公司所使用的人工智能系统——并借此提升自己的利润。

而Brockman则对新闻方面的演变表示担心,他提到了近期业内关于Facebook的秘密算法如何影响人们在新闻推送中看到的内容所产生的争议。“这样的学习系统——这样已经存在的学习系统,就是一个很好的起点。”他承认,检测恶意行为很困难,但这也正是为什么OpenAI会呼吁研究人员开始探索可能性。OpenAI还希望开发可以自行处理网络安全的人工智能,以及开发可以赢得在线编程竞赛的人工智能系统。OpenAI正在努力取得平衡,以便在公开此类系统的同时保障这些技术不会落入恶人手中。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-09-09

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏新智元

【AI 引擎】谷歌推进机器学习在编程中应用 | 奥巴马对话马云:如何帮创业者 | 微软高性能协处理器明年导入超级计算机

1.软件行业的新未来:谷歌宣称要推进机器学习在编程中的应用 ? 11月10日,在东京举行的谷歌亚太年度新闻活动中,其执行董事Eric Schmidt说:“现今很...

2883
来自专栏新智元

【超GPU 100倍】IBM新型AI芯片发Nature,英特尔、微软出大招

1052
来自专栏AI科技评论

洞见 | AAAI学会主席Rao演讲:AI系统崛起后的未来应当是更好地服务人类 | CCF-GAIR

2017年7月7日至9日,全球人工智能与机器人峰会CCF-GAIR大会在深圳大中华喜来登酒店举行。本次由CCF中国计算机学会主办、雷锋网与香港中文大学(深圳)承...

3538
来自专栏ATYUN订阅号

【无人驾驶】不只需要技术好,无人驾驶汽车还需要具备人类常识

一家名为iSee的创业公司认为,新的AI技术能够使自动驾驶汽车更好地应对意外情况。 ? 波士顿的暴躁司机与混乱路况是全世界出了名的,但是这也许是不同类型的自动驾...

3417
来自专栏镁客网

硬纪元AI峰会实录 | 公子小白严汉明:这是智能机器人最好的时代

1625
来自专栏新智元

人工智能时代芯片产业3个不容忽视的趋势

不到12小时里,有三个人提出可以付钱请我花一小时和一个陌生人聊聊。 这三个人都说他们对我写的一篇关于Google正在做一种新型人工智能计算机芯片的文章很感兴趣,...

3256
来自专栏机器人网

别小瞧机器人,它们可能比你更遵守交通规则

机器人技术不断发展,机器人越来越内建各种智能设备,我们已经看到像“Roomba 980”这样的机器人设备,从其前身随机和碰撞容易的导航过渡到光学映射导航,以识别...

3177
来自专栏人工智能快报

关于人工智能,麦肯锡五问专家

麦肯锡发布了其对人工智能业内专家的访谈记录,多位专家就以下五个问题分享了自己的观点。 Q:当前推动人工智能发展的动力有哪些? 全球对冲基金巨头城堡公司(Cita...

2775
来自专栏企鹅号快讯

LeCun:就通用智能而言,人工智能甚至还不如老鼠

新智元编译 来源:PJ Media 编译整理: 张黔 弗格森 【新智元导读】AI到底有多智能?斯坦福大学、麻省理工学院、SRI International和其...

16110
来自专栏AI科技评论

看谷歌和OpenAI联合发布的五条AI定律 如何打脸霍金

最近,谷歌和OpenAI的博客都宣布了一条由谷歌、OpenAI、伯克利和斯坦福的学者共同进行的研究,其目的旨在为AI提供一个有效的行为约束,以使其不会在有意或无...

2965

扫码关注云+社区