不止基因编辑,当所有技术都可能成为毒药

基因技术、纳米技术、机器人技术的新潘多拉之盒即将开启,你我却毫无查觉。我们不单受到大规模杀伤性武器的威胁,还有技术知识产生的大规模杀伤力。这一邪恶的力量,正由国家力量支持的大规模杀伤性武器,转向极端的个人。 ——Bill Joy,BSD操作系统,Vi编辑器,Sparc微处理器设计者,Sun联合创始人及前首席科学家

难以抵挡的技术

1978年5月25日清晨,芝加哥大学停车场,工作人员意外发现一个邮包,收件人是伦斯勒理工学院的工程学教授E·J·史密斯。显然,邮包被寄错了地址。第二天,这个邮包被退回到“发件人”西北大学工程材料学教授巴克利·克瑞斯的办公桌上。克瑞斯被邮包右下角的一行小字吓了一跳——上面写着“也许这是一枚炸弹”。他叫来校警,邮包被扯开,随着一声巨响,办公室硝烟弥漫。

没人想到这只是16起邮包炸弹恐袭案的开始,更没人想到这个炸弹狂人竟是一个16岁就考入哈佛大学,曾经的伯克利大学数学系助理教授——泰德·卡辛斯基。

17年间,卡辛斯基的邮包炸弹袭击案中,共3人死亡,23人受伤,受害者均来自大学、电脑公司与航空公司。调查中,FBI动用500名特工,误抓了200多名嫌疑犯,查访上万民众,接到2万多通检举电话,悬赏100万美元,使“大学炸弹客”成为该机构历史上最昂贵的调查之一。

1995年,卡辛斯基给多家美国媒体写信,要求刊登他的论文《工业社会及其未来》,他威胁说,此论文必须在规定期限内全文刊登于报纸。FBI局长刘易斯·弗利和美国司法部长妮特·雷诺最终同意刊登,希望借助读者通过“人民战争”的方式找出“大学炸弹客”。1995年9月19日,《纽约时报》和《华盛顿邮报》在最后期限前刊登了这篇论文。

假设人们发现了治疗癌症的可靠方法,哪怕这种疗法过于昂贵,只能用于少数精英,依然会极大地削弱人们制止致癌物质逸入环境的意愿。

与自由的渴望相比,技术是更为强大的社会力量。一开始看上去并不威胁自由的技术进步往往会在日后极大地威胁自由。一项新技术刚开始往往是以一种备选的面目出现的,作为个人可以接受也可以不接受,但它不一定停留在备选的位置上。在许多情况下,新技术会改变社会,最后人们会发现他们自己将要被强制去使用它。

以机动车辆交通为例。从前步行者可以去任何他想去的地方,可以按照自己的步调行走,不用遵守任何交通规则,不依靠任何技术支持系统。机动车刚刚出现时好像增加了人的自由的。它们没有夺去步行的人的自由,任何人只想要不想买汽车就可以不买,而买了汽车的人则可以比步行者走得快得多。但是机械化运输很快就改变了社会并大大地限制了人的移动自由。当汽车多起来了之后,大规模地管制它们的使用就变为必需了。开上汽车之后,特别是在人口密集的地区,人们不能按照自己的步调去自己想去的地方,人们的移动为车流和各种各样的交通法规所限。人们将为各种各样的义务所累:牌照、驾驶员考试、更换注册、保险、安全维修、每月付车款。在乡下,机动车交通也使得沿高速公路行走变得危险而难受。

尽管技术进步作为整体不断压缩我们的自由空间,但是每一项新的技术进步单独考虑都是可取的。电、室内上下水管道、快速远距离通讯……一个人怎么能反对这些东西呢?怎么能反对数不清的技术进步呢?正是这些技术进步造就了现代社会。所有的技术进步汇总到一起就创造出了这样一个世界。

然而在这个世界中,普通人的命运不再掌握在他自己或他的邻居朋友手中,而是掌握在政客,公司主管及遥远的、不知其名的技术人员和官僚手中,而对这些人他是没有任何影响力的。这一过程将在未来继续下去。以遗传工程为例。很少人会反对消灭某种遗传疾病的遗传技术。它没有任何明显的害处,却能消除大量的痛苦。而大量对于人类的遗传改进汇总到一起则会把人变成设计制造的产品而不是随机的创造物。

一部分人(多半是上层阶级)将决定如此这般的遗传工程合乎“道德”,如此这般的做法则不道德,因而他们将在实际上将自己的价值观强加于整个人口的遗传构造。即使伦理规范是以完全民主的方式选择出来的,多数族裔也会将他们自己的价值观强加于那些很可能对于如何 “道德地”运用遗传工程另有看法的少数族裔。真正能够保护自由的伦理规范只能是一条,那就是禁止任何人类遗传工程。而我们可以十分有把握地说,这一点恰恰不可能在技术社会中得到实现。

无论是法律、机构、习惯还是伦理规范,任何社会安排都不可能提供永久的保护来防止技术的侵害。历史表明,所有的社会安排都是短暂的,它们最后都会改变或崩坏。但是技术进步在给定的文明的背景下却是永久的。例如假设我们能够作出防止遗传工程应用于人类,或是防止其威胁自由与尊严的某种社会安排,技术仍会等在那里。迟早这种社会安排会崩坏,多半很快就会崩坏,因为我们的社会变化是如此之快。这时,遗传工程就会开始入侵我们的自由领域,而这种入侵却是不可逆的。任何通过社会安排获得持久成果的幻想都会被最近在环境立法中发生的事情所打破。几年以前,我们似乎已经有了一些牢靠的法律屏障,至少可以防止某些最坏的环境退化。但是政坛风向一变,这些屏障也就崩溃了。

读到此处,你可能还没意识到,以上内容的作者就是“大学炸弹客”卡辛斯基。毫无疑问他的行为是谋杀和愚蠢的罪行,但简单地下此结论难以驳倒他的观点。

没人希望他想象的反乌托邦成为现实,但一个众所周知,关于设计与技术应用的问题可以用“墨菲定律”来描述:“会出错的,终将会出错”(事实上,这一观点并非由墨菲原创,这一错误本身就证明了定律的英明)。

抗生素的过度使用已造成严重问题:抗生素耐药性危机和越来越多的危险细菌。想用DDT杀死传播虐疾的蚊子,却使之产生DDT耐药性,其幼虫也获得了对多种药物的耐药性基因。诸如此类令人惊奇的事故清楚地表明:系统各部分相互之间的作用与反馈太过复杂,对系统的改变会引起连锁反应,难以预料最终结果。特别是把人类的活动也考虑进来后,情况就越发复杂了。

在网络上发送与接收信息会造成失控复制。虽然计算机或计算机网络上的失控复制很讨厌,但是在最坏情况下也不过是使单台计算机无法正常工作或阻塞网络通讯、网络服务。而那些更新科技产品的失控自我复制会造成更大危险:它们会损害到物理世界。

Frank Herbert的科幻小说《白色瘟役》(The White Plague)描述了一位分子生物学家因其父母妻儿被无原无故地谋杀而陷入疯狂。为了报复,他制造并散布了一种新研制的高度传染性的瘟役,用它来杀死很多经过选择的人(我们应当庆辛卡辛斯基只是个数学家,而不是分子生物学家)。《星际旅行》(Star Trek)中的博格人,一种具有毁灭倾向的半人半机械生物,类似灾难是科幻小说中经常出现的情节。为什么其他人不为这梦魇般的未来世界操一点心呢?

这一问题的部分答案在于我们偏狭的劣根性:喜欢新奇的东西、马上就能上手的东西、毫无诫心地接受它们,习惯于每天听到的科技新发现。

20世纪,制造大规模杀伤性武器的核技术、生化技术都是由政府机构开发的军事技术。然而在21世纪,前沿技术通常具有很明确的商业用途,由商业企业研发。在现在全球化主义及其多样化的金融动力及竞争压力下,我们不加思索地就做出决定来开发这些新技术。事故与滥用首先会在个人或小型组织就能企及的能力范围内。它们不需要巨大的开发能力或稀少的原材料,只要有相关技术知识就能利用它们。

原子弹的教训

我们还可以从第一枚原子弹的制造中吸取教训。

奥本海默本非天生就对政治感兴趣,只是他对第三帝国对西方文明的威胁有切肤之痛。由于希特勒可能就要拥有核武器,这一威胁毫无疑问是更加致命的。在此威胁的驱使下,他用自己杰出的智力、对物理学的热情、非凡的领导才能,汇集了无数伟大思想,在洛斯阿拉莫斯成功而又迅速地制造出了第一枚原子弹。

诡异的地方在于,在最初的动机消失后,这一工作却偏离了原来的设想。在欧战胜利纪念日之后举行的一次会议上,一些物理学家认为也许要停止对原子弹的研究工作,而奥本海默却坚持继续。他作出这一决定的理由是:很快强大起来的美国应当掌握原子武器的预备知识,而且实验已经准备就绪。

物理学家Freeman Dyson总结道:“核武器爆炸时的灿烂光辉是多么迷人,作为一名科学家,你不能抗拒它的诱惑,每个人都能感受到这一点,感受到把这一巨大威力握到自己手中,释放出点燃群星的能量时的自豪。这就是科学的傲慢,它让人们觉得自己无所不能。”

风暴中的道德

今年的StackOverflow开发者调查中,有一道问题是“开发人员是否会为不当用途的产品或目的编写代码”,大约三分之一的受访者认为要取决于具体情况。

“区块链大本营”的每位读者,也都见证了数字货币和区块链热潮下,或隐或显的诡诈。

从风暴中心,难以对周边形势作出正确的判断——科学家和技术人员,往往处于狂喜的中心。

我们长久以来被求知的欲望驱驶,停不下脚步,这是科学与技术的天性,但仅此而已,那我们就是不称职的科学家、工程师、程序员。

技术带来的灾难该归咎于谁?如果被要求编写不道德的代码你会怎么做?我们也想听听你真实的声音。

?

原文发布于微信公众号 - 区块链大本营(blockchain_camp)

原文发表时间:2018-11-29

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏CDA数据分析师

三则案例告诉你:大数据触手可及!

自2012年开始,大数据(big data)一词越来越频繁地被提及,人们用它来描述和定义信息爆炸时代产生的海量数据,并命名与之相关的技术发展与创新。这一新生词汇...

215100
来自专栏大数据文摘

别错过这张AI商用清单:你的难题可能被一个应用解决(终篇)

25330
来自专栏PPV课数据科学社区

未来生活是这样的——大数据的一天

工作的白天 早上7点,你在浪漫悦耳的G大调钢琴曲中醒来,又是一个崭新的早晨。床头那个猫头鹰造型的闹钟传出的旋律让起床变成一件轻松开心的事情。 这个闹钟是妻...

33250
来自专栏人工智能

2017奇葩机器人大盘点:Sophia想生孩子,Atlas后空翻,贝佐斯骑“高达”……

【AI星球(微信ID:ai_xingqiu)】12月27日报道(编译:叶展盛) 编者注:本文来源于科技媒体The Verge,作者是James Vincent。...

21960
来自专栏服务端技术杂谈

Ruby on Rails发明人成为富翁之后,变得怎么样了?

我出生于哥本哈根郊区一个中下阶层的家庭。对丹麦人来说,斯堪地那维亚之外都算是贫穷区域。不过丹麦的社福体系已经尽力让社会公平了。 ? 我是中间那位。穿着家里做的衣...

28950
来自专栏java一日一条

改善程序员生活质量的 3+10 习惯

2017年的一天,代码伴随着手指极具节奏感地输出在IDE上,突然某Chrome插件弹出一封邮件提示:“今天是我在ThoughtWorks的最后一天”。遇到这种离...

8420
来自专栏程序你好

有史以来最牛的一张程序员职业路线图!

13310
来自专栏新智元

【麻省理工评论】2015年十大改造世界的技术

作者:Tom Simonite,是麻省理工科技评论旧金山分局主席,喜欢算法、互联网和人机交互芯片。他引领了硅谷新想法的报道,不管其来自科技巨擘、初创公司还是学术...

34390
来自专栏架构师小秘圈

程序员幸福指南

作者:Yuan Shenjian,来自:sjyuan.cc 一封离职邮件 2017年的一天,代码伴随着手指极具节奏感地输出在IDE上,突然某Chrome插件弹出...

36190
来自专栏IT派

改善程序员生活质量的 3+10 习惯

2017 年的一天,代码伴随着手指极具节奏感地输出在 IDE 上,突然某 Chrome 插件弹出一封邮件提示:"今天是我在 ThoughtWorks 的最后一天...

12930

扫码关注云+社区

领取腾讯云代金券