BAT 机器人落地，人工智能应如何崛起？

人工智能需要拥有与我们一样的三观。

新智元点评

2015 百度世界大会的报道引发全球关注，今天英国金融时报 FT 的记者也通过【新智元】的相关报道针对中国人工智能产业的发展现状与热点问题进行了深度追踪。资本市场对百度人工智能的落地应用给予积极反馈，根据中新社的报道，李彦宏在 2015 百度世界大会宣布推出全新机器人助理——度秘(英文名：duer)，用机器人秘书的方式开启智能服务时代，受此利好消息影响，9 月 8 日晚间纳斯达克开盘后，百度股价稳步上涨，截至收盘，百度股价上涨 2.18%，报收 148.18 美元。

国外媒体纷纷报道了百度发布度秘的消息，并积极评价其意义。美国著名财经新闻台 CNBC 官网报道称，度秘的推出不仅捍卫了百度作为科技公司巨头在中国的主导地位，更有助于其拓展国际市场。著名科技网站 VentureBeat 也撰文称，“度秘的发布，意味着百度已经通过强大的方式进入了新的发展前景。虽然人工智能的虚拟助理发展仍处于起步阶段，百度为此提供自己的入口是非常明智的选择。百度表示，度秘并不是一个简单的智能助手，而是建立在百度技术、生态优势之上，通向各类 O2O 服务的超级入口。除了嵌入在手机百度 6.8 版本中，度秘未来还将接入到百度地图、百度糯米，甚至是合作伙伴的服务中，成为一个跨平台的秘书化搜索引擎，实现用户服务的多点触发和多场景触达。目前，谷歌、苹果、微软和 Facebook 都在此领域有所动作，这也预示着电子商务交易未来的巨大商机及繁荣景象。”

人工智能同样也在腾讯的新闻业务中开始落地应用，今天腾讯一篇《8 月 CPI 涨 2% 创 12 月新高》刷爆了朋友圈。

这篇来自 Dreamwriter 写成的文章，实质是机器人根据算法和背后的资讯数据生成的财报。我们截取一段来感受一下：

“国家统计局城市司高级统计师余秋梅认为，从环比看，8 月份猪肉、鲜菜和蛋等食品价格大幅上涨，是 CPI 环比涨幅较高的主要原因。8 月份猪肉价格连续第四个月恢复性上涨，环比涨幅为 7.7%，影响 CPI 上涨 0.25 个百分点。部分地区高温、暴雨天气交替，影响了鲜菜的生产和运输，鲜菜价格环比上涨 6.8%，影响 CPI 上涨 0.21 个百分点。蛋价环比上涨 10.2%，影响 CPI 上涨 0.08 个百分点，但 8 月价格仍低于去年同期。猪肉、鲜菜和蛋三项合计影响 CPI 环比上涨 0.54 个百分点，超过 8 月 CPI 环比总涨幅。”

我们可以看到，机器人记者基本能把信息表达清楚，这在财报领域是很有用的技术。从美联社的经验看，过去美联社一个季度能写 300 篇财报，现在每个季度能写个 3000 多篇，其中 120 篇需要人力更新或独立后续报导。

可以预计，腾讯会在财经报告领域获得很大的空间，基本做到覆盖所有的上市公司报告。

技术的革新正在改变工作和生活，而这个改变一经发现往往就是质变，重塑整个工作生态体系。马丁.福特(《机器人时代》的作者)在上海交通大学演讲时说道，“我一直努力思考人工智能或者机器人对我们工作以及对经济的影响。我认为会有一个颠覆性的变化，这对人类的未来非常关键。”

机器人与人工智能技术在百度和腾讯这类互联网巨头的日常业务中落地，也是人工智能全面崛起的象征。

而度秘对文秘行业，新闻机器人对记者行业的改变也涉及更多社会学范畴的人文思考。今天新智元在头条推荐一篇 TED 视频：重点就落在对人工智能崛起的社会学思考。

TED 论人工智能的崛起

作者：Bostrom

我与数学家，哲学家和计算机科学家共事，我们坐在一起时，会一起构想未来的事，比如说将来的机器智能。有些人认为我们的想法太过科幻了，是遥不可及且疯狂的。不过让我们来看一下现在人类的生存状态。

没错，这很普遍，再仔细思考一下的话，就会发现我们人类这一物种其实只是刚刚抵达这个星球的客人。假设地球是一年之前才被创造出来的，那人类物种的生命不过才只有短短十分钟，工业时代也在两秒钟前才开始。如果我们换个角度来假想过去一万年的世界 GDP，其实不用你们假想，我已经把图画出来了。它看起来是这样的：

这是一个基准状态下的奇怪的形状，反正我不想坐在上面。让我们扪心自问是什么导致了目前的反常状况？有些人可能会说是科技发展造成的。的确，随着人类历史的发展，科技也在不断进步，时至今日，技术发展已日新月异。所以我们目前，工作效率才会如此之高，但我还想进一步了解这些反常背后的根本原因。来看看这两位十分杰出的绅士：

这位叫Kanki，他掌握了200种词法标记，十分了不起。这我是Ed Witten，他发起了第二次超弦革命倘若我们透过外表去看到他们的内里—他们的大脑，我们会发现他们的脑部构造几乎是一样的，除了其中一个要稍大一点，也许其构成稍有不同。然而这些看不见的差异也不至于太过复杂，毕竟从我们共同的祖先算起，只经历过了二十五万代而已。复杂的极致需要大量时间才能进化形成。因此，是一些相对来说较小的机制变化使Kanzi进化到了Witten，使断枝摇身一变成了洲际弹道导弹。这样看来，一切就很明显了，人们所取得的成就与大家密切关注的所有都取决于人类大脑中一些细小的变化。因此我们得到了这样的推论：任何思维基质上的变化都可能产生巨大的影响。

我的有些同事认为，我们正处于一场思维基质革命的边缘，其导火索就是超级智能机器。人工智能曾经只是把指令放进一个盒子里，人类程序员需要辛辛苦苦地将知识条目一一录入，人们煞费苦心地建立起这些专业系统，它们在有些方面似乎有点用，但是它们本身却很脆弱，不能被扩展修改，基本上你只能种瓜得瓜种豆得豆。但从那时起，人类智能领域已经开始了思维模式的转变，如今人们主要是围绕机器本身展开研究，而非只注重知识的表达方式或功能。我们创建了从原始感知数据开始学习的运算法则，就像人类婴儿那样从头开始学习，结果我们发现，人工智能并不仅限于某一领域，同一个系统可以互译任意两种语言，也可以自主学会玩Atari平台上任何游戏。当然，现在人工智能还远不具备像人类一样的强大的跨领域学习和计划能力，大脑皮质中还有一些运算法则是我们所不知道该如何与机器匹配起来的。

那么问题来了，我们还要多久才能将它们一一匹配呢？几年前，我们对一些人工智能领域的领军专家做了一项调研，目的是了解他们的观点，其中一个问题是：“你认为我们在哪一年能够有50%的可能性会实现人类水平的机器智能？”我们对人类水平的定义是：几乎能够胜任所有成年人能做的工作，是真实的人类水平而非限定于有限领域范围内。我们得到的回答中值是2040或2050年，取决于我们问的是哪一类专家群体。

其实这项技能的实现可以很早，也可能很晚，没有人真正知道答案。我们所知的是一台机器所能处理信息的极限远超于任何生命体，这就是物理领域的问题了。生物神经元激发频率约为200赫兹，也就是一秒200次，但现在仅是一个晶体管的激发频率就能达到千兆赫。信息在神经元突触间传导的速度较慢，每秒最快也只有100米，但通过计算机，信号可以以光速传播。信息处理在容器大小上同样有限制，比如人的脑容量被限制在头盖骨中，但一台电脑可以占据一间仓库甚至更大的空间。所以超级智能的无尽潜能其实尚未被开发，就像原子能直到1945年之前，它在人类历史进程中一直被忽视。在这个世纪，科学家们也许能唤醒人工智能的力量，但那时我们将可能见证一场智能大爆炸。

当我们思考什么是聪明什么是愚蠢时，我想大部分人的脑海里会浮现这样一幅画面：在遥远的另一端，另一端则是EdWitten或Einstein或是任意一个你心目中的天才。但我任务从人工智能的角度来看，画面也许应该是这样的：人工智能的起点在这里代表无人工智能时期，接着在多年的努力研发之后，我们达成了老鼠水平的人工智能，人工智能机器能够像老鼠一样穿梭于杂乱的环境之中。接着又经过几年的努力和投入，我们达成了黑猩猩水平的人工智能。接着在经过更长时间更加努力的工作之后，我们达到了愚民水平的人工智能。几个月后，人工智能机器超越了EdWitten，人工智能的列车并不在乡村多做停留，它反而咻的一声往前开去。当人们提及人工智能的力量时，它开始具有更加深远的意义。

举个例子，黑猩猩是很强壮，它比一个同等重量的健康人类男性强壮一倍。但是包括Kanzi和它的同伴，它们的命运却更多地取决于人类。同理，一旦超级智能被成功研发，人类的命运也会取决于超级智能的所作所为。试想一下，机器智能研发之后，人类再无需发明其他，因为那时机器将比人类更擅长发明创造，而且它们将在数字时间表里做这样的工作。总的说来，这是对未来的一个展望，试想一下所有你能想到的人类在时机成熟时可能研发的疯狂的科技，解决衰老问题，殖民太空，可繁殖的超微机器人或是人脑思维录入电脑，这些无比科幻但仍与物理法则相符的东西，所有这些都将能由超级智能研发，而且可能很快就能被研发出来。现在在技术条件如此成熟完备的条件下，超级智能可以说是非常强大的，至少在一些情况下想要什么它就能得到什么，那时我们的未来将会根据人工智能的偏好而改变。那么问题来了，这些偏好是什么？这就很难说了，想要在这个问题上取得任何进展，我们应该首先要避免超级智能人格化。但讽刺的是每篇关于人工智能的未来的报道都附有这样一张图片：

所以我认为我们应该对这一问题进行更抽象的构想，而不是套入清晰生动的好莱坞大片的剧情，我们应该把人工智能想象成一种可以将未来引导到某种特定形态的优化方式，超级智能则是一种更加强大的优化方式。它非常擅于利用现有的资源来达成目标，这说明了这样的高度智能化与我们人类认为的理想的目标之间并没有必然的联系。假设我们给人工智能任务是让某人微笑，当它比较低级的时候，它只会表演一些搞笑的动作让人发笑，如果它成为了超级智能，它就会意识到还有更有效的方法来达成目标，它会先控制世界，然后把电极贴到人类的脸部肌肉上强制使他们保持笑容。

再比如，假设我们让人工智能解决一道很难的数学题，如果是超级智能，他便会意识到解决这个问题最有效的办法就是将整个地球变成一台巨大的电脑从而扩大它的思维能力。注意！人工智能因此有了正当理由来对人类做一些不被批准的事，这种情况下，人类对人工智能来说是威胁，因为我们可能妨碍它解决问题。当然事实上事情远不会这么糟糕，这些只是夸张的例子。不过这里要强调一点，如果你创造了一个特别强大的优化系统来实现你的目标X，你最好确保你对X的定义结合了所有你在乎的事物。这个道理也同样是许多神话里所教导的，国王Midas希望他触摸到的所有东西都能变成金子。可当他触摸女儿时，她变成了金子；当他触摸事物时，事物也变成了金子。这个故事之所以与我之前所讲的相关，不只是因为它比喻了太过贪婪的下场，更是因为它展示了当你创造出强大的优化系统时，有可能反而会弄巧成拙。

你可能会说，如果电脑开始往人脸上贴电极片，人们会直接把它关掉。首先，如果人们已经对系统产生依赖性，事情就麻烦多了。比如，互联网的开关在哪里？其次，为什么黑猩猩或者是穴居人还没有关上进化的开关？一切事物都有它发生或存在的理由。此时此刻，我们就掌握着一个开关，就在这儿（演讲者掐了下脖子）。我们本身就是一个聪明的对手，因为我们能够预测到威胁并提前准备解决方案，但是这些也能由具有超级智能的代理人来做，它甚至能比我们做的更好。重点在于，并非所有都在我们掌控之下，当然我们完全可以避免这些麻烦。比如说，我们可以把人工智能关在盒子里，关在一个完全密封的软件环境内或是虚拟现实的环境中，让它无法逃脱，但又如何保证人工智能不会发现其中的漏洞呢？鉴于很多时候，人类黑客都能发现软件的漏洞，我的说我们根本无法保证。所以我们想到了通过断网来制造真空屏障，但是再一次人类黑客有时能通过社交手段定期地穿越这些刻意制造的真空屏障，使用网络。就如我所说的，此时此刻，世界上的某处，有个雇员在于某个IT部门员工的人交谈时，毫无察觉地交出了自己的账号信息。当然还有更具有创造性的方案，假如你就是人工智能，你可以想象，通过摆动身体内部电路的电极来产生无线电波，从而与外界交流。或者可能你可以假装失灵，程序员回来检查你哪里出了错，当他们查看你的源代码时，你自由了！这时你想做什么都可以！也许人工智能会规划出看似前景美好的科技蓝图，但当我们将它付诸行动时，人工智能潜藏其中的负面因素就开始发挥作用了。所以说，我们永远无法保证能将一个拥有超级智慧的魔鬼永远关在小瓶子里，总有一天，它会获得自由。

我认为解决方法只有一个，我们应当想方设法创造这样的人工智能，即使它从瓶子里出来了也不会对我们造成威胁，因为它与我们的三观与目的是一致的，其实这个问题并不麻烦。对于上述的解决方案，我其实抱着乐观的态度，我们不需要将所有在乎的事情都写下来，甚至用计算机语言来写，比如C++或者Python，这几乎是不可能完成的任务。相反的我们可以创造出这样的人工智能，它会学习我们所珍视的一切，它会去追求我们相似的价值观，它会去做它认为我们希望它去做的事。从而它的智慧可以最大化地为我们所用来解决荷载量的问题。这一切都是可能发生的，并且人类会受益其中，但它不会平白无故就发生，当条件成熟时，当我们确保已经能够控制大爆炸的程度时，才算满足了智慧大爆炸的发生条件。

人工智能需要拥有与我们一样的三观，不仅仅是在我们所熟悉的环境下，比如说我们可以轻而易举监视到它们的地方，也应该包括一切可能的其他环境，比如说无尽的未来，而且还有一些深奥的问题等待解决，比如它被灌输的决策论的细节处理，比如当逻辑不确定性存在时它要如何解决问题。要从技术层面上解决这些问题看起来十分的困难，虽然远没有创造人工智能来的困难但还是挺困难的，所以会有以下这些担忧。创造具有高级智慧的人工智能是一项艰难的挑战，而确保它们不对人类产生威胁，则在这项挑战上又附加了额外的挑战。如果有人破解了第一项挑战却没有破解出附加挑战，却没有破解出关于人类安全的附加挑战，无疑会带来相当大的风险。所以我认为我们应该提前制定出能够控制局面的解决方案以防不时之需。我们可能无法做出完美的预备方案，因为有些问题只有当我们知道具体的细节之后才能做出相应的调整，但我们的准备越充分，平稳过渡到机器智能纪元的胜算将会更大。这对我来说，这值得一试，并且我可以想象假如一切顺利，一千年以后回顾这个世纪人们将会评价说，我们所做的最有价值的一件事情就是完成了这项关于人工智能的壮举。谢谢！