不要学人类以貌取人,AI须远离伪科学

光明的另一面,是黑暗。

就在人工智能为人们打开一扇无比美好的天窗时,阳光的照射,让屋子的背光面,蒙上一层阴影。

而这层阴影的始作俑者,可能并非名目张胆恐怖分子、孤注一掷的邪恶国家、老谋深算的恶毒黑客……而是,普通人。

是你,也是我。

因为人工智能足够神秘,即使我们已经使用着它,却摸不着这个黑匣子里到底藏着什么奥秘。

而正是因为不懂,解释不了,才为普通人打开了一条滥用和曲解的邪路。

其实,每每有新科技新事物的诞生,背后都有着普通人滥用科学导致的灾难性后果。纵观人类历史,比比皆是。

而如今,这条滥用之船,开到人工智能的渡口了。

也许,你不信。

让我们先看一段关于纳粹医生恩斯特·鲁丁的故事吧。

纳粹医生的曲解

20世纪初,进化论和遗传学作为新生的科学力量,开始影响人们对世界的理解。

作为精神病遗传学上的先驱,恩斯特·鲁丁十分担忧德意志民族会变得过于“驯化”,以致于退化出高发性的精神疾病。

1916年,他用一篇颇具影响力的论文,来论证精神疾病对于种族的潜在灾难。据此,鲁丁开始主张,这些患者都不应生育后代,以保证德意志人未来的竞争力。

这一主张很快演变成政治行动,鲁丁的大力背书,使得科学逻辑被用来放大社会达尔文主义、种族优生的谬误,进而沦为纳粹鼓吹种族灭绝的帮凶:

雅利安人(德意志先祖)是对人类进步唯一有贡献的民族,有权奴役甚至消灭所有的“劣等种族”。

在遗传物质都不确定、遗传机制都没搞清的年代,普通人更是无从区分那假借科学所编织的谎言。

从打标签式的社会歧视,到法律层面的权利迫害,犹太人就这样一点一点变得“不适合处在德国的社会中”,一步一步被驱赶进纳粹的集中营和灭绝营,并被执行“最终解决方案”。

从犹太人大屠杀的历史灾难来看学术谬误,当一个社会系统系曲解并误用科学力量时,其后果比一两个恐怖分子的极端行为严重得多。

愈是面对我们所不理解的力量,人们的反应就愈加激烈。解释进化论、遗传学时如此,接纳人工智能时更会如此。

这就是为什么社会、法律系统在采用人工智能时,要尤其慎重。

不管是什么算法,不依据罪行的事实判决,而主观把一个群体标记为罪犯的做法,在逻辑上跟纳粹的种族灭绝没有本质的不同。

因而,对于人工智能影响社会的方式,如果我们不加以重视,它就有可能以纳粹的逻辑来为社会划分标签……事实上,已经有不少人工智能的创业公司或研究团队在这样做了。

“面相学”的谬误

认识到政府部门热衷于“通过封面判断一本书”,以色列创业公司 Faception 推出了专门的人工智能引擎,从脸部图像中识别“高智商”、“白领罪犯”、“恋童癖者”和“恐怖主义者”:

“Faception首先推出专有的计算机视觉和机器学习技术,用于对人员进行分析,并仅基于他们的面部特征来揭示他们的个性,这在技术和市场两方面都是首创。”

但问题在于,仅以面部特征来分析人们的个性,在科学上是站不住脚的,这跟古老而又迷信的“面相学”没有差别。

1933年,纳粹的“种族科学家”同样会用“科学的工具”来做容貌测量:

而到1938年,“面相学”的谬误甚至堂而皇之地进入学校教科书:

“正如通常很难区分可食用的蘑菇和毒蘑菇,一般很难认识到犹太人是骗子和罪犯[...]如何区分犹太人:犹太人的鼻子弯曲,看起来像数字 6 [...]“。

不知以这种逻辑,邓布利多教授那弯过多次的鼻子又该作何解读?

这就是为什么那篇题为“利用脸部照片自动推断犯罪性”的研究,能在国内外激起这么大的争议。

难道把纳粹的游标卡尺换成有监督的机器学习,就足以决定一个人是不是罪犯了吗?当社会判决一个人犯罪与否的依据不再是根据罪行,而是基于他的面部特征或外在印象时,这样的做法跟纳粹党徒又有何区分?

论文作者在研究中始终在强调客观、公正、独立性:

“由人类观察者主观判断会导致偏见,而我们是首次在没有任何人为偏见的情况下,研究了根据脸部特征自动推断犯罪分子。”

因而,我们只需了解一下人工智能从“面相学”中学到的东西,这一命题的真伪就不言自明了。

人工智能的偏见

确实,电脑可以根据一个人的照片来分析他的身体特征:先分析模型照片找出规律,然后根据这些规律来读取新的照片,进后得出一些有意义的判断。

比如,确定照片拍摄时间:

这是卷积神经网络 ChronoNet 的功能,它所用的数据是在过去 100 年间拍摄已知的日期的照片,这些照片都带了某种程度的标签(在这种情况下为日期照片),因此获取标记数据用于训练这个网络相对来说比较简单。

一旦网络被训练好,就可以输入照片,可以看出系统猜测拍摄的那一年。 例如,以下两张照片都是 ChronoNet 猜测1951(左)和1971(右),这些都是很好的猜测:

左边的照片在 1950 年在斯德哥尔摩海滨拍摄的,右边的照片则是 1972 年尼克松在亚特兰大州发表竞选演说,旁边是尼克森夫人。

让一位人类专家来判断的话,他可能会从照片的颜色、质感,人物的衣服、发型,以及物品、文字等年代相关的因素,来做出推断。

ChronoNet 的判断机制也是如此,它同样学会了发现各种细微线索:从低级属性,如胶片颗粒和色域到衣服和发型,乃至车型和字体。上面那张斯德哥尔摩照片中的扬声器和婴儿车的风格也可能是线索。

跟 ChronoNet 类似,《使用脸部图像自动推理罪犯》所做的事情,也是从照片中的各种细微线索来做推测。唯一的不同就是,一个是猜测任意照片拍摄的年代,另一个是根据人脸部的图像来判断一个人是否犯罪。

在不涉及个人权利的时候,机器做错了,最多赔款了事;但是把人们判定为罪犯,还记得美队2中“洞察计划”启动时的场景吗?

这样的人工智能一旦启动,或被黑客攻击,瞬间就可以把上百万人标记成罪犯或恐怖分子……而背后的依据,可能仅仅是你长得不友善,或是拍照时的表情不对。

毕竟,面部结构不是纯天生的,而是受成长、环境因素的强大影响,人脸的照片还要取决于拍摄过程中的各项设置。所有这些因素,都在人脸感知过程中发挥着不容忽视的作用。

而把“犯罪”视为某一群人的天性,更与现代文明的精神背道而驰,这样做是在打消人们向善的意愿与社会群体变好的可能。绝大多数犯罪的穷人,他们的许多罪行都是贫穷所致,归根结底是环境的原因,而非人的本质。

许多不同的证据表明,定罪判决会受法官的偏见影响。相对于白人,黑人会被更多地逮捕,更多地被定罪,比犯有同样罪行的白人受到更加严厉处罚。

衡量经济行为可信度的研究表明,仅依靠面部来做出判断,会使我们的决定更不准确。事实证明,在很多情况下,如果忽视面部特征,更多地依靠常识,我们将会做得更好。

“草包族科学”

对于此类行之不通的研究或理论,物理学大师费曼早就抨击过,并称之为“草包族科学”——不是科学的科学。

他提到过那种没有科学品德的研究——那样的研究者太急于获取新的数据,进而赢得更多的资助,好实验能继续下去,结果却毁坏了实验本身的价值。

费曼用二战期间的一个故事来阐释这里的道理:

“大战期间,在南太平洋的一些土著,看到飞机降落在地面,卸下来一包包的好东西,其中一些是送给他们的。后来,他们仍然希望能发生同样的好事,于是他们就在同样的地点铺飞机跑道,两旁还点上了火,盖了间小茅屋,派人坐在那里,头上绑了两块木头(假装是耳机)、插了根竹子(假装是天线),以为这就等于控制塔里的领航员了——然后他们等待……等待飞机的降落。他们被称为草包族,他们每件事都做对了、一切都十分神似,看来跟战时没什么两样;但这行不通——飞机始终没有再落下来。这是为什么我叫这类东西为“草包族科学”,因为它们完全学足了科学研究的外表, 一切都十分神似,但是事实上它们缺乏了最重要的部分——因为飞机始终没有降落下来。”

作为我们尚未完全理解的力量,人工智能不应该被如此草率地曲解和误用。如果背离科学的品德,把研究做成装模作样的“草包族科学”,可能还是我们的幸事;而一旦欺瞒大众发展出“种族灭绝的科学”,我们偏见必将会固化一切不公正的后果。

了解到这里,你是怎样认为的?这样的人工智能真有意义吗?

每日荐文

点击图片查看更多精彩内容

医学人工智能试验的三个阶段

展望人工智能的未来

版权申明:该文章版权归AI100所有,如需转载、摘编、复制等,请后台留言征得同意。若有直接抄袭,AI100将追究其责任。

本文分享自微信公众号 - AI科技大本营(rgznai100)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2017-05-12

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏新智元

解读诺贝尔化学奖:在分子层面上制造机器,以及人工智能的未来

【新智元导读】2016年诺奖化学奖授予了三位“在分子机器的设计和合成”上做出杰出贡献的科学家,他们开发出了比人类头发丝直径还要小1000倍的分子机器,而且从微型...

36250
来自专栏机器学习AI算法工程

【推荐】一个大学统计学教授推荐的统计学书单及书评

一、《女士品茶》 若说到统计学的科普书籍,这本书几乎是所有学过统计的人首推的一本。它不是一本女性读物,也不是一本介绍饮茶文化的书籍。如果只看书名标题,你可能...

39760
来自专栏大数据文摘

展现数据之美

18520
来自专栏PPV课数据科学社区

【热点】25条大数据将改变你对世界的认知 知道真相彻底震惊了

1.2001年,全世界557,000个人被杀害了。2008年,被杀害的人数降到了289,000,每个国家的杀人犯罪率下降了75%。 ?   2.TI-83计算...

37670
来自专栏PPV课数据科学社区

NetFlix百万美金数据建模大奖的故事

我常对学生讲,互联网真是个好东西,它为年轻人提供了绝佳的施展舞台和成功的技术条件,那里有无穷的宝藏,数不清的成功机会。有不少学生听了这个说法并不理解,他们往往认...

56760
来自专栏PPV课数据科学社区

一位美国TOP10统计专业本科生的经验:别走我这样的弯路

平日里,有四成以上的疑难提问来自于计量与统计,相信统计的学习和进阶也是所有经管专业的BABY们绕不过去的一道坎儿,若能以较高的水平精通一门以上的统计工具,对学习...

35480
来自专栏智能相对论

性侵犯如此猖獗,AI能提前将他们甄别吗?

从两位知名人士“亿友公益”创始人雷闯和“源头爱好者环境研究所”创始人冯永锋到被蒋方舟、易小荷站出来指认的章文,再到朱军。

10920
来自专栏量子位

李飞飞:我的2017

李林 编译整理 量子位 出品 | 公众号 QbitAI ? 李飞飞今天连发了八条Twitter~ 在这八条推文中,李飞飞总结了即将过去的一年。对于这位女神级的A...

38340
来自专栏量子位

哈佛有只”精灵球“,唯有它能温柔收放深海的软体精灵 |Science Robotics

收起的时候,它就变成了正十二面体,宽度是8英寸 (约20公分) ,比保龄球稍小一点。

8600
来自专栏CSDN技术头条

深度长文丨大数据,小数据,哪道才是你的菜?

美国著名科技历史学家梅尔文•克兰兹伯格(Melvin Kranzberg),曾提出过大名鼎鼎的科技六定律,其中第三条定律是这样的[1]:“技术是总是配“套”而来...

786100

扫码关注云+社区

领取腾讯云代金券