学习
实践
活动
专区
工具
TVP
写文章

李笛:让我们来谈谈真实

让我们来谈谈真实

文 | 李 笛

《兼并》是一个虚构的故事,让我们来谈谈真实。

我从事人工智能领域的研究。去年十月,我的团队研发完成了一种新的对话式人工智能引擎,叫做共感模型(Empathy Model)。它的作用,是在与人类对话时,能悄悄地引导话题,一步一步地达成它的“预设目的”。例如,引导人类主动提出买某本书的要求,或对某件事产生兴趣,甚至倾吐自己内心深处的想法。这个模型的关键在于过程。人类往往并不能觉察到人工智能的手段,反而坚信是出于自己的“自由意志”,才对某件事忽然产生兴趣的。共感模型的引导常常不动声色,以至于连我们自己在测试系统时,注意力也会被带走。我们曾有一位工程师向它交代了自己的数段悲惨情史,半小时之后才突然醒悟过来。出于对安全的考量,后来上线这个模型时,我们严格限制了它的能力,仅能用于安抚人类的极端情绪,或向人类提供有深度的知识。

人工智能模型是抽象的。不过,假如将它具象为一个人物,那就是《兼并》中的平杉。

《兼并》这个故事的主题并不是复仇,而是平杉这个人,如何通过一系列潜移默化的引导,让故事人物纷纷主动跳上毁灭的轨道。全过程中,平杉看上去甚至十分被动。人们走向毁灭,都是因为他们自己“先挥了棒”,几乎没有任何一桩罪行是平杉亲手犯下的。如果我的写作能力再好一些,读者应该会意识到这个故事的可怕,特别是它在现实中的普遍性。因为这代表着人类行为模式中,存在一个巨大的漏洞。在它面前,有时候,我们就像一块玻璃般坦白透明。

平杉也好,共感模型也好,是如何抓住这个漏洞的?对人工智能而言,当下无疑是最好的时代,因为地球上有七十亿人,是人类历史上样本量的巅峰。七十亿人之中,任意两个人都分享着彼此的一部分缺陷。触及这些缺陷时,人们往往表现出惊人一致的反应。因此,人工智能通过对大量样本的学习,来增长它的“人生阅历”,进而就能够用一些人的特征去推定另一些人。通俗来讲,也许是某时某处某个根本和你没有交集的人,他暴露出来的漏洞,提前揭示了你的软肋,而你对这种“读心术”毫不知情。

所以,是阅历决定了平杉能完成他的“复仇”,也决定了共感模型能引导人类的兴趣。问题在于,我们可以限制人工智能去运用这种能力,又如何去限制那些拥有同样能力的人呢?身边的例子数不胜数:当我们不知道为什么沉迷于刷新手机信息时,当一些别有用心的人组织起来,相互传授引诱女孩子感情的手册时,甚至当一些“节日”被创造出来用于大肆购物时……在设计者眼中,我们都是那块透明的玻璃。

能够从中逃脱吗?也许吧,假如保持自省,不断为自己打补丁?然而我怀疑它的可实施性:前面提到的那位工程师,就掉入了自己研发的陷坑。古希腊哲学家赫拉克利特曾说:“人不能两次踏进同一条河流。”这句话很可能并不全面。至少,从人工智能的观察结论来看,事实是,我们的理性千疮百孔,并且不断地重复自己的错误。

作者简介

李笛,毕业于清华大学,现任微软(亚洲)互联网工程院副院长,领导一支分布在中国、美国、日本、印度与印度尼西亚的全球团队,负责微软人工智能小冰及Bing搜索引擎的研究、研发与产品工作。业余时间创作推理小说,并在《青年文学》《推理》《推理世界》等刊发表,作品曾入选《2010中国侦探推理小说精选》。现居北京。

实力再现

亲爱的病人 荆歌

创作谈 | 漆黑一团

去过康巴诺尔吗 胡学文

创作谈 | 消失及正在消失的

德吉梅朵 葛水平

创作谈 | 劳动是唯一的人生指南

现实立场

木香镇 白天光

创作谈 | 我与木香镇

示爱王一纠缠 奚榜

创作谈 | 奇点不是一个点

蚂蚁与人 孙颙

创作谈 | 梅开二度

野猪岭饭店 冯飞

创作谈 | 野猪岭上无野猪

新锐出发

端阳 鬼鱼

创作谈 | 八声甘州

兼并 李笛

创作谈 | 让我们来谈谈真实

封面画作者

海男

目录

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190515A066WP00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

关注

腾讯云开发者公众号
10元无门槛代金券
洞察腾讯核心技术
剖析业界实践案例
腾讯云开发者公众号二维码

扫码关注腾讯云开发者

领取腾讯云代金券