OpenAI号召开发人工智能警察

据《连线》杂志2016年8月报道，受埃隆·马斯克（Elon Musk）支持的OpenAI研究所（开放人工智能研究所）计划公开其人工智能研究成果，并且希望确保人工智能不被用于非法目的。而也是因为这个原因，该研究所希望创造一种新的警力：人工智能警察。

OpenAI所担心在人工智能技术的发展过程中，有人会悄然取得突破，并将之用于违法的目。因此，OpenAI呼吁其他顶级研究人员加入其行动，一同开发新技术来检测人工智能领域取得的突破。

特斯拉首席执行官埃隆·马斯克和Y Combinator总裁Sam Altman携人工智能领域其他才智非凡的研究人员（包括从谷歌和Facebook挖来的人才）一同创建了OpenAI，旨在迅速加快人工智能的发展，同时保护世界免受人工智能的伤害。马斯克和Altman在2015年12月为OpenAI揭牌时表示，他们可以和任何人免费分享人工智能研究成果——以此帮助阻止非法分子滥用人工智能。

OpenAI创始人认为，人工智能可以让世界更美好，但也担心人工智能会带来严重损害。OpenAI负责人Greg Brockman表示：“随着人工智能系统越来越强大，我们将看到各种应用，一些应用可能会是违法的。我们对这一点了解越深，态度越慎重，最终结果才会越好。”

这种想法看似矛盾，其实不然。马斯克和Altman认为，如果每个人都掌握人工智能，那就能有更多人和坏人作斗争。他们认为，我们不应该对一到两个大公司开发的人工智能付出所有信任，而是让所有人获得必需的能力，来阻止人工智能被用于不当用途。虽然这种理念存在局限——我们不能分享一切，而又唯恐有什么落入坏人手中——但很多人认为OpenAI可以作为谷歌和Facebook等大公司的监督者，因为按照人工智能哲学家Nick Bostrom的话来说，OpenAI可以降低“超级智能被垄断的可能性”。

对人工智能警察的呼吁代表着这种理念落实到实践的开端。OpenAI不仅仅希望开发新的人工智能并与世界分享，还希望积极跟踪不法分子。通过呼吁组建人工智能警力，OpenAI正在努力寻找使这一想法成为现实的途径。

最近从谷歌跳槽到OpenAI的Ian Goodfellow表示：“我们现在还没有什么很好的想法。所以我们才公开号召开展特别研究。”但OpenAI已经设想了一些起点。一个方案是从金融市场、在线游戏和在线新闻服务这些已经使用人工智能的领域着手。跟踪这些领域使用人工智能的情况——也许通过更为传统的研究方法，也许通过构建人工智能来跟踪其他人工智能——会让警察看到人工智能技术在现实世界的发展情况，其应用是否合理。Goodfellow怀疑金融公司等已经开始使用巧妙的技巧愚弄竞争对手公司所使用的人工智能系统——并借此提升自己的利润。

而Brockman则对新闻方面的演变表示担心，他提到了近期业内关于Facebook的秘密算法如何影响人们在新闻推送中看到的内容所产生的争议。“这样的学习系统——这样已经存在的学习系统，就是一个很好的起点。”他承认，检测恶意行为很困难，但这也正是为什么OpenAI会呼吁研究人员开始探索可能性。OpenAI还希望开发可以自行处理网络安全的人工智能，以及开发可以赢得在线编程竞赛的人工智能系统。OpenAI正在努力取得平衡，以便在公开此类系统的同时保障这些技术不会落入恶人手中。