【谷歌版“黑镜”】Ledger全面收集数据视频曝光,人类易被引导


新智元报道

来源:TheVerge

作者:克雷格、肖琴

【新智元导读】谷歌两年前制作一个视频本周被曝光。视频里提出了“Ledger”概念,Ledger收集用户所有数据,然后根据用户的行为、习惯等信息,引导用户完成一个目标。看上去是在帮助用户解决问题,但细思恐极的是,这不就是黑镜里的情景吗?

谷歌两年前做的一个视频,本周被曝光,立刻炸开了锅。

这个名为“The Selfish Ledger”的9分钟视频,描述了一个所谓的“Selfish Ledger”概念,它可以收集用户所有数据,包括在手机上进行的任何操作、偏好设置和做出的决定,然后这个由谷歌设计和管理的ledger将解释这些信息,引导用户完成一个目标。

视频内容

举例来说,如果你想减肥,ledger会看到你正在用手机购买的食物,然后指导你购买哪些会更健康。

更可怕的是,即使AI缺少一个关键的数据点,它也可以填补数据的空白:ledger能够在设备中寻找,以便在使用的时候提供所需的数据。比如你缺少体重数据,ledger甚至会频繁推荐电子秤让你购买。

Ledger:引导用户达成目标,对数据无比贪婪

“The Selfish Ledger”短片以Lamarckian的表观遗传学的历史开始,它关注的是在一个有机体的一生中所获得的特性的传承。

Nick Foster是这段视频的解说。Foster说,这一理论在遗传学上可能是不可信的,但它为用户数据提供了一个有用的隐喻。

我们使用手机的方式创造了“‘我们是谁’的不断演变的表述”,这就形成了一个“Ledger”,Ledger假定数据资料可以被利用起来,并能够用于修改行为,还能从一个用户转移到另一个用户:

“以用户为中心的设计原则已经主宰了计算世界几十年,但如果我们以一种不同的方式看待事物呢?”如果Ledger可以被赋予一种意志或目的,而不是简单地作为一种历史参照,该怎么办?如果我们专注于通过引入更多的信息来源来创建一个更丰富的Ledger,那会怎么样呢?如果我们认为自己不是这些信息的所有者,而是作为托管人、临时承运人或看护人呢?

我们的设备使用的所谓Ledger——我们的“行动、决定、偏好、运动和关系”的数据——可以很容易地传递给其他用户,就像遗传信息代代相传一样,Foster说。

基于Ledger的想法,该视频的中间部分提出了谷歌系统的概念性决议(conceptual Resolutions by Google system),其中谷歌提示用户选择一个人生目标,然后在他们与手机的每一次互动中引导他们走向这个目标。

这些例子“反映谷歌作为一个组织的价值观”,其中包括使用Uber或指导你从Safeway购买本地生产的产品时,尝试更环保的选择。

当然,Ledger概念是在谷歌上进行的,它可以访问大量的用户数据和决策,不过,视频中没有提到隐私问题或潜在的负外部性。Ledger对更多数据的贪婪需求可能是这部视频中最令人不安的地方。

Foster设想了一个未来:“目标驱动的Ledger概念变得容易被接受,并且行动建议可能不是由用户而是由Ledger本身提供的”,这就是《黑镜》描述的景象。而Ledger积极地寻求填补数据的空白,甚至选择购买它认为可以吸引用户的产品,以便采集数据。

视频中给出的例子是一个浴室秤,因为Ledger还不知道它的用户有多重。

这段视频又进一步转向了让人焦虑的科幻小说,因为这个Ledger可能会变得如此精明,以至于它可以提出和3D打印自己的设计。

Foster对Ledger的看法超越了自我完善的工具。该系统将能够“填补其数据的空白,并完善其人类行为模式”——不仅仅是你的特定行为或我的行为,而是整个人类物种的行为。

“通过将用户数据视为多代人,新兴用户可以从上一代的行为和决策中获益。”Foster解释说,设想一个挖掘人类行为的数据库,将其与人类基因组进行排序,并“对决策和未来行为做出越来越准确的预测”。

“黑镜”要来?X发言人:它与任何当前或未来的产品无关

短片命名为“The Selfish Ledger”并非是Ledger很自私,而是向理查德·道金斯(Richard Dawkins)1976年《自私的基因》“Selfish Gene”一书的致敬,这本书提出了以基因为中心的进化论的观点,在现代生物进化理论中地位非常重要。

这次视频的解说Foster也是Alphabet X部门的设计负责人,同时也是the Near Future Laboratory的联合创始人。

X部门是Alphabet的创新孵化器(以前是Google X部门),在这里把大批天马行空的想法变成了现实,包括谷歌glass、自动驾驶汽车、Loon、Wing等。

Foster在2016年制作出来“The Selfish Ledger”视频后,一直在谷歌内部共享,直到本周被The Verge曝光,随后引发了大家对谷歌“黑镜”行为的担忧。

对此,一位X的发言人向The Verge声明:

这是多年前设计团队的一个思想实验,他们使用一种被称为“推测设计(speculative design)”的技术来探索让人不舒服的想法和概念,从而引发讨论和辩论。它与任何当前或未来的产品无关。

谷歌两项专利思维模式与Ledger类似

虽然X发言人否认,但The Verge又发现谷歌有两个专利申请表现出的思维模式,跟 Ledger的设想一样。

有读者指出,去年公开的谷歌自2015年开始的一项专利申请,标题为“检测和纠正用户行为中的潜在错误”。Selfish Ledger概念的核心部分跟这个标题非常相似:它的前提是,在个人层面上帮助用户进行自我改善和行为修正

这个专利文件中提出了一个系统,在这个系统中,你的设备将使用Google已经收集到的信息——例如从你的电子邮件收件箱中收集的旅行行程——然后在检测到你行程偏离时采取行动。

系统预测计算设备的用户将要采取的行动,并根据与计算设备相关的上下文信息来确定用户正在采取的当前行动。计算系统根据当前的操作决定用户是否能够采取未来的行动,并根据可能性程度预测用户将无法采取的行动。计算系统向计算设备发送信息,表明用户当前正在采取的操作将导致用户无法采取未来的行动。

因此,假如你正在前往的机场不对,你的手机会发出通知,告诉你走错了路。

谷歌的专利图(因篇幅限制,仅展示部分图片)

然而,为了实现这种智能,手机需要对你的生活非常熟悉。除了事先知道你的计划之外,它还必须了解你的日常驾驶或通勤模式,它需要知道你当前的位置和活动,以确定它是否与计划一致。

这是谷歌服务的永恒二分法:它们真的非常实用,确实有帮助,但是你愿意为了方便而放弃多少隐私?

另一项谷歌专利申请也是2015年开始,去年公开,名为“通过智能手机引导购买”。这是一个自动购物助手,当它检测到你正在查看一个产品时,系统可以帮助你购买的。

通过智能手机引导购买,其方法是通过智能手机的用户输入确定用户购买特定产品的意愿。确定购买多个产品的任务序列中的至少一个任务序列。所确定的购买特定产品的意向与购买多个产品中的一个确定的任务序列相关联。确定智能手机用户在相关的任务序列中的当前状态。用户通过智能手机被告知下一个未完成的任务,该任务来自基于智能手机用户当前状态的相关任务序列。

谷歌的专利图(因篇幅限制,仅展示部分图片)

比如说,你正在High Snobiety网站(一个时尚资讯平台)浏览最新的运动鞋时,系统将引导你完成购物流程,你可以选择产品类型、功能、型号和商家。

为了向用户提供完成购买的正确指导,这个系统将使用从先前的用户购买行为中获得的信息。专利申请写道:它将“决定在相关的任务序列中任务的顺序,至少在一定程度上基于从那些在相关的任务序列中执行部分或全部任务的消费者中收集的信息。”

这听起来不就是The Selfish Ledger吗?

在这项“引导购买”专利申请中,一个次要的声明是将广告商导入到购买过程的最后阶段。具体来说,谷歌将收集那些希望在该系统的特定产品搜索中出现产品的公司的投标。在这方面,专利申请回到了为谷歌赚钱的目的:创造新的服务,帮助广告商更好地展示他们的产品。

在针对谷歌的The Selfish Ledger的反应中,很少有人真正了解谷歌已经参与的数据收集的程度。The Selfish Ledger并不是跟谷歌今天的做法完全无关,它只是将它们推向极端的一个概念视频

现实生活中,谷歌的照片已经假定知道你会认为生活的亮点,并根据其AI解释提出整个专辑;Google地图和Google智能助理都会根据他们对日常位置和习惯的信息提出建议;谷歌在最近的I/O大会上出现的全双工语音通话AI的演示等等。

在新技术和人工智能正在进入更广泛的公众讨论的时代,谷歌的一举一动都备受关注。

“The Selfish Ledger”把谷歌作为世界上最棘手问题的解决者,解决方法由每一位用户的个人信息的亲密程度和对整个群体行为的引导来推动。这不仅仅是谷歌内部的一次思想锻炼,也为人类提供了一个启发性的视角。

原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2018-05-20

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏服务端技术杂谈

移动互联网产品的设计

移动互联网产品的方法论: 手机作为一种联系工具,天然决定了移动互联网的主要服务对象是人群而非个人。移动互联网产品经理的主要任务是服务人群,主要工作是研究...

3334
来自专栏企鹅号快讯

Facebook、Google、Amazon 是如何高效开会的

作者 孔若诚 杏仁产品经理,业余美剧、设计、哲学爱好者。头像是我偶像。 会议是工作中绕不开的一部分,许多人都听说过,在一项研究中发现,语言在我们的沟通中只占了...

2588
来自专栏PPV课数据科学社区

大数据的未来:22名数据专家预测2016年数据科学与大数据的发展趋势【展望】

预测未来永远不是件容易的事情。但随着2015即将结束,我们不禁期待新的一年会来带什么。 你最终能买到一辆自动驾驶的汽车吗?机器会比人更聪明吗?还有,数据科学世...

3444
来自专栏PPV课数据科学社区

【聚焦】大数据的机会与挑战

迎接大数据时代的来临,要如何运用既有优势,同时克服将到来的挑战呢?大学副教授洪士灏指出,硬软件整合是的机会,但业界的思维必须转型,要从纯硬件的代工制造业,...

2997
来自专栏Python中文社区

Python分析网易云音乐近5年热门歌单

專 欄 ❈作者:瑶妹妹先生,知乎专栏:折数,关于网络编程、数据挖掘,数据可视化,摄影后期等。 ❈ 网易云音乐几乎是我唯一的听歌消遣的平台了,平...

3265
来自专栏华章科技

大数据黑洞

如今我们可以轻松地从云端雾端,或者某些静态设备(staticdevice)收集数据,但是这些数据无法量化客户体验时的情感。大型企业利用无处不在的信息感知移动设备...

1042
来自专栏美团技术团队

工程师如何在工作中提升自己?

2345
来自专栏大数据文摘

制做信息图的六件不可为之事

3206
来自专栏Java架构

同样的工作、同样的做需求,为什么他们能进阿里?

古人云:“活到老,学到老。”互联网算是最辛苦的行业之一,“加班”对工程师来说已是“家常便饭”,同时互联网技术又日新月异,很多工程师都疲于应付,叫苦不堪。以至于长...

915
来自专栏VRPinea

连虚拟化身都没有的你,还敢自诩自己走在时尚科技的尖端?

35110

扫码关注云+社区

领取腾讯云代金券