谷歌员工爆料:Facebook运用人工智能的方法 令人不寒而栗

众所周知的是,目前,快手的日活人数大概1.1亿人的样子,月活人数有在2亿人以上。今日头条旗下的抖音,日活人数进一步增长到了8千万人左右,月活人数1亿多。腾讯的王者荣耀,日活人数应该是在5到6千万人之间,月活人数亦在2亿人之上。于是,网络上开始盛行这样一句话,“南抖音,北快手,王者农药遍地走”。的确,这三款APP在亿万的人群中走红,均可称得上是奇迹。再有,互联网圈中有的人看来,快手对比抖音,就如同微博对比知乎。快手主要面向在三、四线城市及农村地区的人群,而喜爱抖音的人群中有相当多的人生活在一、二线城市。况且,抖音在海外的知名度远超快手。

快手之所以能在广大的人群中火起来,除了得益于互互联网、通信等技术不断地进步,移动设备的性能更好且价格更低外,还受益于快手本身所拥有的那一套算法。而日前,媒体引述快手的CEO宿华所说的话,“算法的背后是人,算法的价值观就是人的价值观,算法的缺陷是价值观上的缺陷”。宿华提到的算法,也就自然引出了一个更高层次的话题,人类该如何运用人工智能?不妨以全球最大的社交媒体平台Facebook作为本文的案例。

前些天,不论国外,还是国内,业界中有不少的人,针对Facebook泄露人们的隐私信息,通过媒体平台发表了各自的分析和见解。近期,谷歌公司的一名研究员(谷歌大脑)François Cholle在社交媒体Twitter上连续发表了好几十条推文,从而向人们表达了自己的观点。并且,这些推文基本可以组合成一篇完整的文章,一篇关于人工智能的文章,也是一篇发人深省的文章。

Cholle在Twitter上有写到:

Facebook已经做了一系列“成功”的实验了,其中的内容包括,Facebook通过控制信息流里展现的内容,进而控制人们(用户)的情绪和想法,以及预测人们在未来可能做出什么样的决定。比如,Facebook预测哪些人会分手,预测哪些人会建立新的恋情。当前,如果硬是要说人工智能有什么重大的威胁足以引起人们担忧的话,那这样的威胁其实已经暴露出来了。用一句简单的话说就是,平台针对自身的使用者及海量的数据,利用人工智能,对民众实施极为有效且大规模地控制。事实上,Facebook一直非常努力地想成为人工智能领域中的领军公司之一,但当人们看清了Facebook对个人的隐私数据保护不力,以及利用人工智能的方法,让人不寒而栗。

对人工智能研究社区的各位,下次你们以任何形式参与到Facebook的人工智能生态系统中时,建议你们都好好地想一想,想想你自己又帮助Facebook增加了哪些能力。我们共同养大的怪兽(这里指的是Facebook),最终会回过头来把我们每一个人都吃掉。我很抱歉,我把这事说得过于夸张了些。但这起与Facebook相关的数据泄密事件,给人们带来的威胁,值得我用这般夸张的词汇。在我看来,Facebook并不仅仅是泄露了人们的隐私数据那么简单,更值得人们担心的是,Facebook把个人的数字信息用来控制人们的心理和行为。

现在,有两个长期的趋势正在改变着全世界的模样。一个,我们每个人的生活越来越去物质化,越来越多地享受于在网络上创造内容。无论我们是在工作中,还是在下班回到家时,其中有太多的人都如此。二个,人工智能正变得越来越聪明。在能够影响我们如何享受数字化内容的算法层面上,这两个趋势的作用开始叠加。人工智能可以决定我们能看到哪些文章,我们和谁联系,我们看到谁的观点,我们收到谁的反馈等等。而这些算法对我们而言并非完全透明,甚至是完全不透明的。社交媒体平台基于人们这么多年来所积累的数据,利用算法处理我们能享用哪些数据的做法,让这些平台的系统对我们的生活,对我们要变成什么样有了可预见的控制力。当我们的生活越来越多地由数字生活组成的时候,我们在面对这个世界的管理员——人工智能(算法),我们其实显得越发地脆弱。

如果在某几年的时间里,你看到什么新闻,不论这些新闻是真是假,看到哪个政客的观点,以及谁能看到你的观点等等,这一切都是由Facebook控制的,这等同于是Facebook就对你的政治理念和你的世界观有了相当的影响。而在今天,这对我们而言,也并不是什么新闻了。我们已经知道了,至少是从2013年起,Facebook就进行了一系列的实验。在这一系列的实验里,Facebook可以通过关闭信息流里的某些内容的方式,控制不知情的试验人群的心情和决定,以及预测这些人在未来会有什么样的行为举动。

简短来说,Facebook可以同时测量所有关于我们的信息,同时还能控制我们接触到哪些信息。当Facebook可以同时接触到人们的感知和行为数据时,这就变成了一个人工智能的问题。那么Facebook就可以开始为人类的行为建立一个优化的闭环,一个强化学习的闭环。在这个闭环里,Facebook可以观察到目标人群在当前的状态,然后持续地改进给他们看到的信息,一直改进到他们开始表现出Facebook想要看到的观点和行为为止。

在人工智能研究领域,有相当一部分的内容,尤其是Facebook一直在投资的内容,就是关于研究人员们如何开发出算法,以尽可能高效地解决这种优化之类的问题,从而实现这样的闭环,最终让平台对其中发生的现象有完全的掌控力。以Facebook为例来讲,在闭环里被Facebook掌控的对象就是我们自己。

人类的大脑天生就对简单的社交控制没有任何抵抗力,这让Facebook要达到这个目标变得不知道有多么的简单。现在当我思考这些问题的时候,我已经不由得想起了一系列有效得令人后怕的心理攻击手段。其中有一些已经在广告业使用了很长的时间,比如正面/负面社交强化,只不过执行得很弱,没有针对任何特定的目标。

结语:当前,人类开发出的人工智能还仅是弱人工智能。然弱人工智能在被人们应用的过程中,即已暴露出了值得人们深思的问题。试着想一下,当人工智能从弱人工智能进化到强人工智能,甚至更遥远的超级人工智能,那时人类在应用人工智能的过程中,一定还会遇到更多更大的问题?不过,在我看来,若科技公司是在运用人工智能帮助人们更快、更健康地成长,帮助人类社会更好地进步……那么这样的科技公司和人工智能技术对人类自然是有益的。而Facebook无疑是其他科技公司引以为戒的典型参照……

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20180404A1G2CC00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券