OpenAI号召开发人工智能警察

据《连线》杂志2016年8月报道,受埃隆·马斯克(Elon Musk)支持的OpenAI研究所(开放人工智能研究所)计划公开其人工智能研究成果,并且希望确保人工智能不被用于非法目的。而也是因为这个原因,该研究所希望创造一种新的警力:人工智能警察。

OpenAI所担心在人工智能技术的发展过程中,有人会悄然取得突破,并将之用于违法的目。因此,OpenAI呼吁其他顶级研究人员加入其行动,一同开发新技术来检测人工智能领域取得的突破。

特斯拉首席执行官埃隆·马斯克和Y Combinator总裁Sam Altman携人工智能领域其他才智非凡的研究人员(包括从谷歌和Facebook挖来的人才)一同创建了OpenAI,旨在迅速加快人工智能的发展,同时保护世界免受人工智能的伤害。马斯克和Altman在2015年12月为OpenAI揭牌时表示,他们可以和任何人免费分享人工智能研究成果——以此帮助阻止非法分子滥用人工智能。

OpenAI创始人认为,人工智能可以让世界更美好,但也担心人工智能会带来严重损害。OpenAI负责人Greg Brockman表示:“随着人工智能系统越来越强大,我们将看到各种应用,一些应用可能会是违法的。我们对这一点了解越深,态度越慎重,最终结果才会越好。”

这种想法看似矛盾,其实不然。马斯克和Altman认为,如果每个人都掌握人工智能,那就能有更多人和坏人作斗争。他们认为,我们不应该对一到两个大公司开发的人工智能付出所有信任,而是让所有人获得必需的能力,来阻止人工智能被用于不当用途。虽然这种理念存在局限——我们不能分享一切,而又唯恐有什么落入坏人手中——但很多人认为OpenAI可以作为谷歌和Facebook等大公司的监督者,因为按照人工智能哲学家Nick Bostrom的话来说,OpenAI可以降低“超级智能被垄断的可能性”。

对人工智能警察的呼吁代表着这种理念落实到实践的开端。OpenAI不仅仅希望开发新的人工智能并与世界分享,还希望积极跟踪不法分子。通过呼吁组建人工智能警力,OpenAI正在努力寻找使这一想法成为现实的途径。

最近从谷歌跳槽到OpenAI的Ian Goodfellow表示:“我们现在还没有什么很好的想法。所以我们才公开号召开展特别研究。”但OpenAI已经设想了一些起点。一个方案是从金融市场、在线游戏和在线新闻服务这些已经使用人工智能的领域着手。跟踪这些领域使用人工智能的情况——也许通过更为传统的研究方法,也许通过构建人工智能来跟踪其他人工智能——会让警察看到人工智能技术在现实世界的发展情况,其应用是否合理。Goodfellow怀疑金融公司等已经开始使用巧妙的技巧愚弄竞争对手公司所使用的人工智能系统——并借此提升自己的利润。

而Brockman则对新闻方面的演变表示担心,他提到了近期业内关于Facebook的秘密算法如何影响人们在新闻推送中看到的内容所产生的争议。“这样的学习系统——这样已经存在的学习系统,就是一个很好的起点。”他承认,检测恶意行为很困难,但这也正是为什么OpenAI会呼吁研究人员开始探索可能性。OpenAI还希望开发可以自行处理网络安全的人工智能,以及开发可以赢得在线编程竞赛的人工智能系统。OpenAI正在努力取得平衡,以便在公开此类系统的同时保障这些技术不会落入恶人手中。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-09-09

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏前沿科技

中兴智能视觉大数据:客流统计引进人脸识别技术太强大了

中兴智能视觉大数据报道:近年来,随着客流统计领域技术的成熟和需求增加,不断会有新的技术出来。人脸识别客流分析技术,作为一种新颖的客流量统计分析手段,利用人脸图像...

3023
来自专栏量子位

2018年,AI会在金融行业哪些方向上发力?

原作 Todd Clark 加州金融服务公司CO-OP的CEO Root 编译自 Payments Journal 量子位 出品 | 公众号 QbitAI 对于...

4097
来自专栏Android 研究

PMI-ACP 敏捷项目管理11——理解团队绩效

最流行的解决方案之一是软件估算模型,称为COCOMO。COCOMO Ⅱ模型有7个输入变量的加权因子,其中一个就是"人员因素",还有一个是"工具与流程因素"。经过...

1842
来自专栏人工智能头条

Demetri Terzopoulos:没有什么能够阻止我们实现超越人类的智能

1394
来自专栏量子位

SoPlus回顾 | 行业大咖论道AI,探讨未来行业发展趋势

随着发展人工智能成为国家战略布局,创业者与投资人都期待在人工智能这股浪潮中占取先机,智能芯片的设计与制造,语音、语义、图像、动作等信息的识别、处理与反馈,哪些领...

3386
来自专栏PPV课数据科学社区

从拉勾网数据看深圳数据分析师的职业前景

利用这篇文章提到的方法对拉勾爬虫,然后进行数据分析。通过对局部地区某一岗位的总体分析,找出该地区该职位的职业发展前景规律。本文基于拉勾上2016年12月到201...

3537
来自专栏镁客网

360度视频只是过渡,VR视频的“真交互”还没到时候

1714
来自专栏镁客网

竹间智能简仁贤:基于情绪识别打造对话式AI,推进机器人融入商业 | 镁客请讲

2396
来自专栏企鹅号快讯

不止抢工作 人工智能还有了“小情绪”

新的一年即将到来,人们也充满希望,不过,如今要预测未来几个月将会出现什么新技术,还为时过早。在这个飞速发展的时代,我们要学会如何忽略关于专家所认为的或将成为来年...

1859
来自专栏企鹅号快讯

遭遇成长烦恼 2017 IT行业回顾之AI大数据

第312期 遭遇成长烦恼 2017 IT行业回顾之AI大数据 文 | 贾凯强 责任编辑 | 巫山 审核 | 张齐 策划 | 刘克丽 人工智能和大数据在20...

1839

扫码关注云+社区