OpenAI号召开发人工智能警察

据《连线》杂志2016年8月报道,受埃隆·马斯克(Elon Musk)支持的OpenAI研究所(开放人工智能研究所)计划公开其人工智能研究成果,并且希望确保人工智能不被用于非法目的。而也是因为这个原因,该研究所希望创造一种新的警力:人工智能警察。

OpenAI所担心在人工智能技术的发展过程中,有人会悄然取得突破,并将之用于违法的目。因此,OpenAI呼吁其他顶级研究人员加入其行动,一同开发新技术来检测人工智能领域取得的突破。

特斯拉首席执行官埃隆·马斯克和Y Combinator总裁Sam Altman携人工智能领域其他才智非凡的研究人员(包括从谷歌和Facebook挖来的人才)一同创建了OpenAI,旨在迅速加快人工智能的发展,同时保护世界免受人工智能的伤害。马斯克和Altman在2015年12月为OpenAI揭牌时表示,他们可以和任何人免费分享人工智能研究成果——以此帮助阻止非法分子滥用人工智能。

OpenAI创始人认为,人工智能可以让世界更美好,但也担心人工智能会带来严重损害。OpenAI负责人Greg Brockman表示:“随着人工智能系统越来越强大,我们将看到各种应用,一些应用可能会是违法的。我们对这一点了解越深,态度越慎重,最终结果才会越好。”

这种想法看似矛盾,其实不然。马斯克和Altman认为,如果每个人都掌握人工智能,那就能有更多人和坏人作斗争。他们认为,我们不应该对一到两个大公司开发的人工智能付出所有信任,而是让所有人获得必需的能力,来阻止人工智能被用于不当用途。虽然这种理念存在局限——我们不能分享一切,而又唯恐有什么落入坏人手中——但很多人认为OpenAI可以作为谷歌和Facebook等大公司的监督者,因为按照人工智能哲学家Nick Bostrom的话来说,OpenAI可以降低“超级智能被垄断的可能性”。

对人工智能警察的呼吁代表着这种理念落实到实践的开端。OpenAI不仅仅希望开发新的人工智能并与世界分享,还希望积极跟踪不法分子。通过呼吁组建人工智能警力,OpenAI正在努力寻找使这一想法成为现实的途径。

最近从谷歌跳槽到OpenAI的Ian Goodfellow表示:“我们现在还没有什么很好的想法。所以我们才公开号召开展特别研究。”但OpenAI已经设想了一些起点。一个方案是从金融市场、在线游戏和在线新闻服务这些已经使用人工智能的领域着手。跟踪这些领域使用人工智能的情况——也许通过更为传统的研究方法,也许通过构建人工智能来跟踪其他人工智能——会让警察看到人工智能技术在现实世界的发展情况,其应用是否合理。Goodfellow怀疑金融公司等已经开始使用巧妙的技巧愚弄竞争对手公司所使用的人工智能系统——并借此提升自己的利润。

而Brockman则对新闻方面的演变表示担心,他提到了近期业内关于Facebook的秘密算法如何影响人们在新闻推送中看到的内容所产生的争议。“这样的学习系统——这样已经存在的学习系统,就是一个很好的起点。”他承认,检测恶意行为很困难,但这也正是为什么OpenAI会呼吁研究人员开始探索可能性。OpenAI还希望开发可以自行处理网络安全的人工智能,以及开发可以赢得在线编程竞赛的人工智能系统。OpenAI正在努力取得平衡,以便在公开此类系统的同时保障这些技术不会落入恶人手中。

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-09-09

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏AI科技评论

学界 | OpenAI发布通用人工智能研究纲领:以全人类的名义承诺

重大的任务需要重大的责任感,也需要全球的参与。 AI 科技评论按:近期 Facebook 泄露用户数据、针对性影响用户、Uber 无人车事故,以及全球学者联名抵...

3356
来自专栏新智元

美国最强大 AI 巨头再结盟,苹果、OpenAI 等加入“AI五巨头联盟”

【新智元导读】鸡年伊始,万象更新。尽管特朗普上台导致美国有全面向保护主义内卷的倾向,但AI领域的开放与联盟趋势也在加速——目前研究 AI 影响最高调、权威的组织...

3036
来自专栏企鹅号快讯

机器人抢走人类工作?人工智能创造的岗位可能比淘汰的多

腾讯财经讯 据CNBC报道,当今社会,机器人与人工智能早已不是新鲜话题,它们形态多变,而且随处可见。越来越多的人担心将会有越来越多的人类工作会被机器人取代。不过...

1706
来自专栏罗超频道

预测接下来一个小时路况,大数据又有经典应用

有个朋友跟我说,现在看到大公司说大数据、云计算、物联网这些概念都犯晕,都被说得云里雾里,这位朋友总结说现在大公司搞这些玩意儿都是噱头,与这位朋友心态相似的人应该...

3244
来自专栏企鹅号快讯

如何辨析超级人工AI的伦理道德

源SingularityHub译宋天祥 假如存在一套统一的道德准则,那么能否使AI学会这些准则从而避免对我们造成伤害?这是英国卫报最近在一个原创短片中所探讨的问...

19510
来自专栏腾讯云安全的专栏

腾讯云公布安全 AI 布局,聚焦 AI 及大数据构建智慧安全

1023
来自专栏腾讯研究院的专栏

全球隐私及数据保护法律政策动态报告(中)

全球隐私及数据保护法律政策动态报告(下) 腾讯互联网法律研究中心  2014年第3季度 三、美国 (一)移动应用成为数据隐私治理重点 鉴于...

1697
来自专栏DT数据侠

上海蝉联2018中国开放数据“第一城”

根据最新发布的《2018中国地方政府数据开放报告》,在中国省级数据开放工作中,上海连续两年蝉联第一,贵州和山东分列第二、三位。这些地方都是中国地方政府数据开放的...

400
来自专栏新智元

AI留给人类的时间已不多:《未来简史》作者赫拉利Nature来信

来源:授权转载自造就(ID:xingshu100) 作者:Yuval Harari / Nature 译者:何无鱼 【新智元导读】《未来简史》作者赫拉利(Yuv...

3345
来自专栏云计算D1net

谷歌再度大范围下调云服务价格 IT巨头价格战愈演愈烈

谷歌在4日召开的“云计算平台”大会上宣布了在云服务领域的一系列新举措,其中包括多项云服务降价策略。此举旨在应对来自亚马逊等竞争对手的挑战,进一步抢占市场份额。而...

3304

扫描关注云+社区