OpenAI号召开发人工智能警察

据《连线》杂志2016年8月报道,受埃隆·马斯克(Elon Musk)支持的OpenAI研究所(开放人工智能研究所)计划公开其人工智能研究成果,并且希望确保人工智能不被用于非法目的。而也是因为这个原因,该研究所希望创造一种新的警力:人工智能警察。

OpenAI所担心在人工智能技术的发展过程中,有人会悄然取得突破,并将之用于违法的目。因此,OpenAI呼吁其他顶级研究人员加入其行动,一同开发新技术来检测人工智能领域取得的突破。

特斯拉首席执行官埃隆·马斯克和Y Combinator总裁Sam Altman携人工智能领域其他才智非凡的研究人员(包括从谷歌和Facebook挖来的人才)一同创建了OpenAI,旨在迅速加快人工智能的发展,同时保护世界免受人工智能的伤害。马斯克和Altman在2015年12月为OpenAI揭牌时表示,他们可以和任何人免费分享人工智能研究成果——以此帮助阻止非法分子滥用人工智能。

OpenAI创始人认为,人工智能可以让世界更美好,但也担心人工智能会带来严重损害。OpenAI负责人Greg Brockman表示:“随着人工智能系统越来越强大,我们将看到各种应用,一些应用可能会是违法的。我们对这一点了解越深,态度越慎重,最终结果才会越好。”

这种想法看似矛盾,其实不然。马斯克和Altman认为,如果每个人都掌握人工智能,那就能有更多人和坏人作斗争。他们认为,我们不应该对一到两个大公司开发的人工智能付出所有信任,而是让所有人获得必需的能力,来阻止人工智能被用于不当用途。虽然这种理念存在局限——我们不能分享一切,而又唯恐有什么落入坏人手中——但很多人认为OpenAI可以作为谷歌和Facebook等大公司的监督者,因为按照人工智能哲学家Nick Bostrom的话来说,OpenAI可以降低“超级智能被垄断的可能性”。

对人工智能警察的呼吁代表着这种理念落实到实践的开端。OpenAI不仅仅希望开发新的人工智能并与世界分享,还希望积极跟踪不法分子。通过呼吁组建人工智能警力,OpenAI正在努力寻找使这一想法成为现实的途径。

最近从谷歌跳槽到OpenAI的Ian Goodfellow表示:“我们现在还没有什么很好的想法。所以我们才公开号召开展特别研究。”但OpenAI已经设想了一些起点。一个方案是从金融市场、在线游戏和在线新闻服务这些已经使用人工智能的领域着手。跟踪这些领域使用人工智能的情况——也许通过更为传统的研究方法,也许通过构建人工智能来跟踪其他人工智能——会让警察看到人工智能技术在现实世界的发展情况,其应用是否合理。Goodfellow怀疑金融公司等已经开始使用巧妙的技巧愚弄竞争对手公司所使用的人工智能系统——并借此提升自己的利润。

而Brockman则对新闻方面的演变表示担心,他提到了近期业内关于Facebook的秘密算法如何影响人们在新闻推送中看到的内容所产生的争议。“这样的学习系统——这样已经存在的学习系统,就是一个很好的起点。”他承认,检测恶意行为很困难,但这也正是为什么OpenAI会呼吁研究人员开始探索可能性。OpenAI还希望开发可以自行处理网络安全的人工智能,以及开发可以赢得在线编程竞赛的人工智能系统。OpenAI正在努力取得平衡,以便在公开此类系统的同时保障这些技术不会落入恶人手中。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-09-09

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏企鹅号快讯

遭遇成长烦恼 2017 IT行业回顾之AI大数据

第312期 遭遇成长烦恼 2017 IT行业回顾之AI大数据 文 | 贾凯强 责任编辑 | 巫山 审核 | 张齐 策划 | 刘克丽 人工智能和大数据在20...

1759
来自专栏云计算D1net

云计算成本:4个神话与误解

如今,企业将业务迁移到云端的趋势很普遍,这样做会为企业CIO及其组织节省成本。当然,企业可以通过将某些工作负载迁移到云计算环境来节省资金。然而,这一误解产生于可...

1052
来自专栏AI科技评论

Facebook事件背后:AI本应是人类的助力,但这次它玩弄人类于股掌之间

AI 科技评论按:近期 Facebook 泄露海量用户数据,而且这些数据还被利用来针对性地影响 Facebook 用户的事情已经闹得沸沸扬扬。除了用户隐私保护这...

3455
来自专栏镁客网

LinkedIn创始人谈人工智能:将颠覆企业管理方式

2214
来自专栏Android 研究

PMI-ACP 敏捷项目管理11——理解团队绩效

最流行的解决方案之一是软件估算模型,称为COCOMO。COCOMO Ⅱ模型有7个输入变量的加权因子,其中一个就是"人员因素",还有一个是"工具与流程因素"。经过...

1252
来自专栏人工智能头条

Demetri Terzopoulos:没有什么能够阻止我们实现超越人类的智能

1344
来自专栏镁客网

机器视觉市场腥风血雨,华捷艾米要做嵌入式的3D感知芯片

1220
来自专栏前沿科技

中兴智能视觉大数据:客流统计引进人脸识别技术太强大了

中兴智能视觉大数据报道:近年来,随着客流统计领域技术的成熟和需求增加,不断会有新的技术出来。人脸识别客流分析技术,作为一种新颖的客流量统计分析手段,利用人脸图像...

2583
来自专栏人工智能头条

拥有人工智能的机器人能否取代人类?听大牛怎么说

2105
来自专栏量子位

2018年,AI会在金融行业哪些方向上发力?

原作 Todd Clark 加州金融服务公司CO-OP的CEO Root 编译自 Payments Journal 量子位 出品 | 公众号 QbitAI 对于...

4067

扫码关注云+社区