学界 | 人工智能需要「非殖民化」

AI 科技评论按:我们默认包括人工智能在内的各种科学技术都是全球性的,深度学习圈开放、开源的做法更让我们相信同样的双向 LSTM 可以运行在中国的实验室服务器里、可以运行在越南的云服务商数据中心里、也可以运行在硅谷创业公司的笔记本上。

但人工智能的全球化、人工智能服务的平民化进程远远没有这么简单。谷歌 DeepMind 伦敦办公室的统计和人工智能研究员 Shakir 就写下了他的思考。雷锋网 AI 科技评论全文编译如下。

全球化的人工智能还远未实现。目前的人工智能受限于地域和人群。但是如果把人工智能看作一个容器,它内部的压力开始形成,水壶开始鸣叫时,就会发出声音。我们如何让全球人工智能真正全球化?

而这次发出的声音与众不同。不可避免的,将会有人呼吁将人工智能非殖民化。我们能够理解这是为什么。因为,尽管我们渴望成为理想的科学家——即具有前瞻性、怀疑性和包容性的科学家——但这个理想与现实往往相去甚远。有时,我们会重复一种殖民式的世界观。我们依靠继承的思想和一系列不容置疑的价值观;我们加强选择性的历史;我们没有考虑到技术的影响和替代路径的可能性;我们认为我们的工作是普遍有益、需要和受欢迎的。

于是这个呼声响起。

# 非殖民化。

将我们的思想非殖民化

(http://u6.gg/fhVyV)

将科学非殖民化

(http://u6.gg/fhVzH)

将所有的东西都非殖民化

(http://u6.gg/fhV2u)

这是今天引起共鸣的呼声,比以往任何时候都响亮。

人工智能非殖民化[1,2]的呼声还没有达到高潮。我怀疑这是一个即将出现的话题,我们需要就此展开讨论。有两种观点在我内心产生了冲突,一种观点认为非殖民化与开发以人为中心的人工智能(AI)的挑战无关,而另一种认为非殖民化非常重要,我们利用它塑造一个自我反思并且负责任的人工智能设计师社区。这篇文章反映了我的矛盾,也许是你的矛盾。

定义非殖民化

非殖民化(http://u6.gg/fhV3K)强调自我所有权。对于土地、人民和国家,它强调将“土地和生命”还给原始继承者。正如 Fanon 所说[3],自我所有权是“创造新生命形式的先决条件”。要创造新的生活方式和存在方式,我们需要自我所有权。

就知识而言,非殖民化强调恢复自信。我们需要自信来创造新的思想和思维方式。

对于非殖民化,有三种观点让我产生了更具体的理解[4]。

欧洲知识的中心化。一个人可以把殖民政权从英国或法国手中夺去,但他们的思想、心理、经济和文化遗产仍然存在。非殖民化要求我们把欧洲拿走——或者更普遍意义上的“西方”——作为一个参考点。在我们的科学工作中,我们应该拒绝模仿西方。我们应该维护自己的身份。我们应该重新把知识集中在恢复全球历史、问题和解决办法的方法上。对 Ngũgĩ wa Thiong'o 来说,这意味着拒绝将英语作为教学和交谈的不容置疑的媒介。对我们这些技术专家来说,这可能会将我们的动机重新集中,并不总是针对硅谷的问题,而是针对我们自己的地区、问题和背景。

通向更多的,包容性的知识。为了保持全球竞争力,并应对我们在智力和社会方面的关键挑战,非殖民化的形式要求我们共同努力利用现有知识,但要明确认识到新方法和替代方法的价值。我们应该包括其他历史,比如正在进行的历史修正,其中包括亚洲和非洲对科学的贡献[5,6]。我们应该支持新的创造知识的方式能够蓬勃发展的环境。我们不能做的是接纳这些声音,却又在之后把新的声音推到边缘。与此相关的是我们已经积极参与的开源、开放访问和开放数据运动。

反思固有知识。我们需要让彼此永远拥有批判性的观点。我们的知识从何而来?它包括了什么,又遗漏了什么?它支持谁的利益?我们思维所依据的假设是什么?哪些方面和哪些人没能发出他们的声音?这一观点似乎与我们的实践最为相关。在这方面,我们已经在公平、问责、透明、安全、稳健、核查和治理等领域开展工作。

人工智能将对文化产生影响,它的使用将影响我们社会的工作方式(已经发生)。这就是我们应该认真考虑非殖民化的原因。但是,我们已经在不同的主题下处理了这些问题,重要的是,涉及到它们的基本技术问题。这使非殖民化作为一种工具的效用受到质疑。

这不是一个隐喻

Tuck 和 Wang 的著名论文《非殖民化不是隐喻》('decolonisation is not a metaphor[7])

“非殖民化使土地和生命回归到了原住民,这并不是我们想要改善社会和学校等其他事情的隐喻。

E. Tuck和K. Wang,非殖民化不是隐喻,2012。

这段话做了一个重要的澄清。他们给我们留下的关键信息是,用非殖民化去给所有我们希望参与社会正义的方式贴上标签是有问题的。它导致了意义的丧失。

非殖民化常常被用作政治象征。在没有真正担忧的情况下,非殖民化的主张常常招致反对。非殖民化常常用来向敌人发出信号。我们的科学不会通过建立在空洞的象征主义和对立基础上的世界观来推进:共同努力,我们可以超越那些简单的描述——他们和我们,殖民者和殖民地,大都会和南方,西方和非西方之间的对立。

更令人担忧的是,非殖民化似乎越来越多地被用来取代转型。转型的代价不能是我们被非殖民化的语言分散注意力,将深刻的社会、制度和个人对改变的责任推迟。

我们可以从非殖民化提出的问题和它所建议的战略中吸取教训。但我们也可以继续关注社会正义的重要问题。我将继续要求使用更简单的语言。让我们说出我们的想法和愿望,目的是为了被更准确地理解。我们可以通过保持确定的挑战与科学技术基础的密切联系来做到这一点。

人工智能需要的一课

有理由担心!当我们在《纽约时报》[8]上看到关于我们国家未来发展道路的报道时,我们还能看到什么呢?

除非他们愿意让自己的民众陷入贫困,否则就必须与供应最多人工智能软件的国家——中国或美国——谈判,最终成为这个国家的经济依赖者。”

李开复,人工智能对人类社会的真正威胁,2017年6月

我们立即认识到这一未来可能的殖民性质。当 Ian Hogarth 写《人工智能民族主义》(AI nationalism[9])时,我们回想起那些寻求建立帝国的国家的傲慢和潜在意义。我们并没有忘记这样一个事实:一种基于数据的帝国主义形式[10] ,数据的所有权是可能实现的(如果不是正在进行中)。我们的确认识到,随着审查制度的增加和网络自由的减少,正在形成的网络殖民主义[11]正在扩大。

这就是非殖民化发挥作用的地方。后殖民时代在恢复土地和生活方面所尝试的解决方案,可以作为我们的借鉴并被再利用。这一解决方案的基础是自我所有权及对它的保护。

幸运的是,作为一个领域,我们已经有了这种保护的基础。我们可以继续加强开源软件、开放数据和开放访问——更多而不是更少地发布;我们可以进一步支持可访问的机器学习框架和可访问的科学交流;我们可以继续寻找解决方案,以应对公平、隐私、安全、核查和治理方面的挑战。我们可以更进一步,通过不断挑战固有的假设和世界观来拓展我们的知识领域。

唯一授权并为人类利益工作的人工智能是一个真正的全球人工智能。让全球人工智能真正走向全球并不容易。我们听到了这一呼声。

这篇文章是在听 Sons of Khemet 的 My Queen Is Ada Eastman 的时候写的。你也可以阅读一篇关于转型代价(http://u6.gg/fhVAy)的文章,或者是我最早的一篇关于 Marr 等级分析(http://u6.gg/fhVBj)的文章。

——Shakir,非殖民化心灵。

参考文献

1.Decolonising AI at the Leverhulme Centre for future of intelligence.

2.Video: Decolonising Artificial Intelligence? by Professor Genevieve Bell

3.Frantz Fanon, The wretched of the earth, 1963

4.J. Jansen, As by Fire: The end of the South African University, 2017

5.Clapperton Mavhunga, What Do Science, Technology, and Innovation Mean from Africa? June 2017

6.Caroline Tagny, Feminism online in west and central Africa: identities and digital colonisation, May 2016

7.Tuck E, Yang KW. Decolonization is not a metaphor. Decolonization: Indigeneity, education & society. 2012 Sep 8;1(1).

8.Kai Fu Lee, The Real Threat of Artificial Intelligence, New York Times June 2017

9.Ian Hogarth, AI Nationalism, June 2018

10.Data Colonialism: Critiquing Consent and Control in “Tech for Social Change”, Model View Culture, June 2016

11.The Dawn of cyber-colonialism, June 2014

via:shakirm,雷锋网 AI 科技评论编译

原文发布于微信公众号 - AI科技评论(aitechtalk)

原文发表时间:2018-10-22

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏大数据文摘

听说AI不光能做双十一海报,还有了集体智慧 | TED演讲

12530
来自专栏大数据文摘

对于可穿戴产品的设计,这些问题你都考虑到了吗?

21150
来自专栏华章科技

大数据如何帮助医疗领域节省4000亿美元

随着低成本传感器的增长超过预期,计算机在医疗领域正在产生前所未有的数据量。这其中,有的被用于研究目的,比如儿科医生监测哮喘背后的环境诱发因素。也有的将其用于个人...

6730
来自专栏java一日一条

驱动力来自哪里-献给迷茫的程序员

一种是生存本能带来的驱动力,即生物性驱动力。比如每天要吃饭、睡觉、上厕所,长大了要恋爱、结婚等。这种驱动力保证我们能够生存在这个世界上,是一种原...

7010
来自专栏腾讯云安全的专栏

腾讯云 AI 安全与互联网金融黑产暗战

23730
来自专栏ATYUN订阅号

亚马逊引用积极的用例来反驳对其面部识别技术的指责,但人们真的会买账吗?

面部识别算法,特别是亚马逊的基于云的图像分析服务Rekognition,最近成为日益严格审查的主题,这已不是什么秘密。

8730
来自专栏VRPinea

1.23 VR扫描:丧尸迷福利,《行尸走肉》发行商推出新型 VR 互动恐怖影片

29950
来自专栏机器之心

智能零售来了!Amazon Go无人商店周一正式对公众开放

34550
来自专栏数说工作室

【微博汇】大数据如何改变我们的衣食住行?

微博(@数说工作室网站)滚动播报大数据动态、咨询、行业最新解读,以及一些数据分享。 以下是本周微博内容的汇总, 一、大数据应用: 看看大数据如何在生活购物、家庭...

40640
来自专栏VRPinea

6.19 VR扫描:微软Xbox仍无计划支持VR/MR;谷歌推出编辑工具VR180 Creator

日前,微软游戏部门的首席市场营销官麦克·尼科尔斯(Mike Nichols)表示:“微软Xbox暂时没有针对VR/MR的计划。”同时他还表示,PC可能是最适合V...

12000

扫码关注云+社区

领取腾讯云代金券