AI规则迎来进化：从“阿西莫夫三原则”到“李彦宏四原则”

在硅谷久负盛名的波士顿机器人旗下的四足机器人，即将在明年量产，进入家庭场景。机器人正在离我们越来越近，很多人看完波士顿机器人的各种视频，都后背发凉：这么强大的机器人，放到家里，走在路上，伤害人类怎么办？很多机器人的体积是人类的好几倍，看上去比人类强大很多。

这样的忧虑前人早已考虑到，早在1040年，科幻作家阿西莫夫就针对机器人提出了著名的“机器人三原则”，目的是要避免人类被机器人伤害，机器人三原则如下：

第一条：机器人不得伤害人类，或看到人类受到伤害而袖手旁观.

第二条：机器人必须服从人类的命令，除非这条命令与第一条相矛盾。

第三条：机器人必须保护自己，除非这种保护与以上两条相矛盾。

简单地说，机器人永远不能伤害人类、也不能听从人类命令去伤害人类，如有必要则牺牲自己。

正是因为机器人行业遵循三原则进行研发，因此机器人一直不断进化，而在这个过程上很少听说有机器人伤害人类的情况。不过，如果我们将无人车也视作机器人，关于自动驾驶伤害人类的新闻也不是没有，特斯拉Autopilot、Uber无人车，都发生过事故，这足以让人们警醒。由此可见机器人三原则，在AI高速发展的今天已经不够用了。或许正是因为此，中国AI领军企业百度CEO李彦宏，日前在贵阳数博会上，提出了新的AI四大伦理原则，堪称“机器人三原则”AI版。

科技界对AI的焦虑

机器人是人工智能的终极形态的应用，但不是全部。

人工智能发展已有多年历史，早在1921年，捷克作家卡雷尔·恰佩克（Karel ?apek）就发明了“机器人（robot）”一词。1956年，“人工智能”（artificial intelligence，即AI）一词被正式提出。不过，人工智能真正爆发，则是在深度学习技术出现后，特别是2016年3月，谷歌DeepMind研发的AlphaGo战胜人类最强的围棋选手，更是将AI的技术实力展示给了所有人。

如今，人工智能正在各行各业落地，我们每天用到的搜索引擎、信息流、电商、视频、语音助理等互联网应用背后都有AI技术，火车站的人脸识别实名认证、银行转账的远程人脸识别认证，也都是典型的AI应用。在AI时代到来后，金融、教育、医疗、零售、娱乐诸多行业都在规模应用AI技术。当然，最典型的AI应用，应该还是机器人、无人车这样的高集成度应用。AI给人们带来了很多便捷，比如更高的效率、更低的成本、更好的体验，等等。

然而，伴随着AI的高速发展，人类的焦虑也与日俱增，一方面，越来越多的岗位被机器所取代，“机器换人”的大潮在各行各业上演。去年12月麦肯锡发布的报告预测，到2030年前会有8亿人的工作被机器取而代之，“最可能被取代的工种包括快餐行业工作者和机器操作员，而园丁、水管工和育儿工作者则最不容易被机器人取代。”在AI实力大增、巨头不断投入、应用不断涌现的环境下，这样的预测不是危言耸听。另一方面，AI在一些场合开始出现伤害人的案例，比如我们身边发生的就有“大数据杀熟”，再比如Uber无人车撞死人这样的案例。

不少科技领袖对此已有担忧，比如特斯拉创始人马斯克认为，“无论任何事情，机器人会比我们做得更好，所有工作都会被颠覆，我不知道该怎么做”他甚至提出了十分可怕的预测：“AI将比朝鲜核武器更可怕，全球AI军备竞赛将导致第三次世界大战，AI是人类文明存在的根本风险”，“AI将是人类有史以来最好或最糟糕的事情，如果控制不好会导致世界末日”；再比如已故科学家霍金，则一直提醒人们要警惕人工智能的发展，“人类需要控制以人工智能为代表的新兴科技，以防止它们在未来可能对人类生存带来的毁灭性威胁。”

更多科技领袖，如Alphabet董事会主席埃里克·施密特（Eric Schmidt）、苹果CEO库克、Facebook CEO扎克伯格、微软CEO萨蒂亚·纳德拉（Satya Nadella）、亚马逊CEO杰夫·贝索斯（Jeff Bezos）、百度CEO李彦宏、腾讯董事局主席马化腾、阿里巴巴CEO马云、创新工场CEO李开复、搜狗CEO王小川，对AI发展都是相对乐观的。扎克伯格甚至直指马斯克关于AI的末日预言“相当不负责任”，李彦宏也是乐观派的代表，他一直在中国给AI技术步道，甚至还出版了《智能革命》一书，百度也定位为人工智能公司，大举投入，日前提出“AI四原则”，表明李彦宏对于AI不是盲目乐观，而是有更深刻的认知。

李彦宏给AI定规矩

在日前的贵阳大数据博览会上，李彦宏到场演讲，针对AI定下了“规矩”，他认为AI时代各大公司都要遵循如下四大伦理原则：

1、AI 的最高原则是安全可控；

2、AI 的创新愿景是促进人类更平等地获取技术和能力；

3、AI 的存在价值是教人学习，让人成长，而非超越人、替代人；

4、AI 的终极理想是为人类带来更多自由与可能；

我将这4点归纳为“李彦宏AI四原则”，它本质上跟阿西莫夫的机器人三原则一样，只要AI时代各大公司在应用AI上能够遵循这四原则，AI就可以造福人类，而不是给人类带来威胁。正如李彦宏的愿景“AI的使命不是替代人，是让技术忠诚于人类，服务于人类，让人类的生活变得更美好。”

李彦宏跟阿西莫夫一样，对技术都有着自己的信仰，技术出身，重视技术，关注技术，信任技术，也正是因为此，李彦宏对于AI一直都十分乐观，自称是人工智能的乐观派，比如在已故科学家霍金、特斯拉创始人马斯克等科技领袖都对AI发展表示担忧时，李彦宏在不同场合都强调，AI不会威胁人类，“它带来的影响主要是正面的影响，负面的影响完全是可控的。”

不过，李彦宏对于AI也不是只有乐观，而是相对更加理性，在积极看好AI未来的同时，对AI发展中呈现的问题不断关注，也有焦虑。在数博会上，李彦宏分享的主题便是“AI时代的期望和焦虑”，李彦宏不担心人工智能会控制人类，而是担心人工智能在诸如无人车之类的应用场景中的安全问题。

与其在悲观中裹足不前，不如在乐观中适当地焦虑，再采取措施来控制AI发展的不确定性，就像李彦宏一样，正是因为在乐观中有悲观，所以一边是百度战略布局人工智能，另一边是李彦宏的“AI四原则”，他认为AI应该“安全第一”，AI的目的不是超越和取代人，这正是人工智能威胁论担忧的重点。不过，只要企业可以遵循这四大原则，AI就不会伤害人，也不会取代人——或许会替换一些岗位，但一定会诞生新的岗位，人类不会无所事事。

李彦宏不同于阿西莫夫

阿西莫夫是美国著名科幻小说家、科普作家、文学评论家，美国科幻小说黄金时代的代表人物之一，其《基地系列》、《银河帝国三部曲》和《机器人系列》三大系列系列被誉为“科幻圣经”，尤为重要的是，他提出的机器人三原则如今仍然是机器人行业严格遵循的共同理念。

与阿西莫夫出身科幻作家不同，李彦宏是出身工程师的企业家。

一方面，他对技术有深刻理解，Know How。李彦宏是搜索行业的最先探索者，在1997年就获得了奠定搜索引擎基础的“超链分析”专利，他的演讲甚至直接影响了谷歌两位两位联合创始人佩奇和布林，此后多年来也一直关注技术，比如2015年李彦宏亲自参与获得了一个名为“对象识别方法和装置”的专利，这是AI时代的人机对话式交互方式。正是因为此，李彦宏对于AI的乐观和焦虑，都很有意义，因为他是企业家里最懂技术的人之一。

另一方面，他将自己对技术的理解和信仰，转化到公司战略方向上。

百度正在大举投入人工智能，其给自己的定位不是移动互联网公司，而是人工智能公司，其AI布局，除了深度学习、知识图谱等基础AI技术外，还有自动驾驶汽车、DuerOS人机交互系统两大重点应用方向，以及在金融、信息流、教育、医疗等行业的落地。

在核心业务搜索引擎大规模应用AI技术后，百度又推出了AI搜索引擎：“简单搜索” App，主打语音识别、图像识别、自然语言处理等人工智能技术，可以呈现出千人千面的搜索结果，这是第一个完全基于AI的搜索应用。

李彦宏还承诺搜索结果里永远不放广告，这意味着简单搜索不会再有竞价排名，即便搜索结果中一些内容本身是经过包装的植入广告，但是和百度没利益关系。比如有人用“简单搜索”时发现，有时候搜索一些关键词，点进去后发现结果中还是有广告内容，这是正常的第三方原生内容广告，百度无从判断，就像微信公众号的软文一样，与百度没有关系，我想既然李彦宏承诺了永远不做广告，应该就会说到做到。

正是因为将AI规模应用在全量业务，所以百度可以身体力行地遵循AI四原则。比如在AI 安全至上这一点上，百度无人车就做到了将安全放在第一位，李彦宏在数博会透露，百度无人车50%的新增代码，都是为了保障安全——截至目前百度无人车没有任何安全事故的新闻，值得注意的是，百度已通过Apollo自动驾驶开放平台将无人车技术开放出来，其安全技术也在开放范畴，这意味着，百度对无人车安全的重视也会让整个自动驾驶行业受益，避免再出现Uber无人车撞人的事故。

在我看来，李彦宏提出的AI四原则，对于AI时代企业应用AI有着跟“机器人三原则”一样的价值，更值得关注的是李彦宏对AI的态度：保持乐观，但不能盲目乐观，而是要严谨务实地探索推进，不回避问题，也不因噎废食，而是通过AI定规矩，同时身体力行，迎接智能世界的到来，我想对AI无比惶恐的马斯克们或许可以多看看李彦宏的态度和做法。

热点事件追踪：

淘宝造富计划 掌门1对1 美团无人车 算法看门狗 金融科技井喷 中国版米其林 社交之王 Uber撞人 新世相 新氧融资 金蝶第二春 刘强东的平台经济学 互联网上市潮 教育科技 耐克拿下跳一跳 盒马外卖 阿里收购饿了么 相机争夺战 头条瞄准爱奇艺 陌陌收购探探