学者称人类计算系统有助于避免人工智能威胁

2016年1月1日,一批支持“人类计算”(human computation)的学者在《科学》杂志发文呼吁人们“忘掉人工智能,因为解决世界难题的关键是人机协作”。这批学者宣称,结合了人类和计算机优点的“人类计算”系统最终会解决诸如气候变化、地缘政治冲突等世界性问题,并且不会有人工智能和技术奇点所带来的威胁。

文章的作者Pietro Michelucci和Janis Dickinson提出了“人类计算”系统,人们可以不断地分享、分析和修正自己的想法,至到形成最好的想法为止。Michelucci是总部位于美国的人类计算研究所的负责人,而Dickinson是康奈尔大学鸟类学实验室公民科学的负责人。Michelucci将“人类计算”系统设想为一个“动态维基百科”,人们可以将对现实世界中一些问题的理解放在这个计算空间中进行发酵,并在这个空间中尝试可能的解决方案,同时将在这个过程中所获得的新知识应用到解决现实世界的问题上。

人类计算植根于这样一个事实:计算机和人类各有所长,计算机可以快速分析海量数据,但是人类却可以提出新的思想。Michelucci和Dickinson以Wikipedia这个众所周知的人类计算案例为例:虽然协作性工作固有的天性是分歧不断,但多人在同一个计算平台协作,会产生令人惊喜的高质量成果。

但是从公民科学工程的角度看,这种处理具体问题的众包形式或者说微任务形式并不足以解决诸如气候变暖等模糊性问题。这也是为什么作者要提出“动态维基百科”的原因;这个系统不仅仅只是对现实问题的模拟,而是走的更远。Michelucci举了个例子来说明这个系统使用场景:一个工程师可以进入这个系统并解释引擎是如何工作的,然后他在这个系统中模拟一个运行的引擎。这样,人们就可以进入系统用新的混合燃料来测试这个引擎。和维基百科一样,这个系统可以吸引各行各业的人员参与进来。但是,这个系统不只是让这些人员分享他们的思想和专业知识,它还可以结合人类的认知能力和计算机算法来创建一个良性的反馈环来促使人们不断评估和修正自己的思想。

人类计算系统的一个优势就是,人类已经拥有了足以支撑这个系统的技术基础设施。Michelucci说,“从某种意义上看,人类计算好像是在欺骗人工智能;有的时候,人们会开玩笑把它叫作‘人工人工智能’(artificial artificial intelligence);因为我们做的事情就是开发一种人工智能算法,然后说:另外一部分是计算机没法做的,让我们把这部分交给人去做。”

虽然人类在这个系统中占主导地位,但是还是存在Elon Musk和Stephen Hawking所担心的风险,即系统的智能有一天可能成长到威胁人类安全的地步;但Michelucci认为只要一切处于人的控制之中,这个风险很小。

当然,这也不是万无一失的。因为不信任拥有力量的机器也就意味着相信拥有力量的人。在这篇文章中,作者也认为人类计算系统有可能被人恶意利用,“满怀恶意的人可能设计这样的系统来散布假消息、制造恐谎、盗取个人信息或者操作别人的行为,这一点不能不引起注意。”

原文发布于微信公众号 - 人工智能快报(AI_News)

原文发表时间:2016-02-24

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

扫码关注云+社区