你没看错：科技公司都将拥有两位CEO

AI副作用越来越明显了。

科技公司或许很快会配备两个CEO：一个是Chief Executive Officer即首席执行官，另一个是Chief Ethical Officer即首席伦理官。

这几天，AI人脸识别技术在不断“闯祸”。

视频换脸App ZAO在朋友圈刷屏，很快就因为用户协议存在霸王条款、涉嫌侵犯肖像权引发用户恐慌等问题，引发巨大争议，先是被微信封杀，接着工信部就ZAO App网络数据安全问题开展问询约谈，要求其严格按照国家法律法规以及相关主管部门要求，进行整改，依法收集用户信息并使用，规范协议条款，强化网络数据和用户个人信息安全保护。ZAO随后修改用户协议并公开道歉。

另一家AI独角兽则因在校园试点“基于人脸识别的教室监控”而引发舆论大哗，相关图片显示，对应系统可以监控学生在课堂的一举一动，举手次数、打瞌睡、开小差甚至注意力是否集中，都可以被机器识别得一清二楚，并进行可视化呈现。尽管对应的技术在智能教育上呈现出广阔的应用前景，但人们却并不买账，而是担心“监控”下学习的精神压力和隐私风险。随后，这家AI独角兽回应称，网络上出现的一幅课堂行为分析图片，为技术场景化概念演示，意思是，尚未应用。

不论是ZAO的视频换脸技术，还是教室监控技术，本身都不新鲜。ZAO用的是开源技术，“教室监控技术”一直都是AI教育明星公司们主打的一项技术。一夜之间备受关注，原因在于，AI技术发展太快，应用门槛变低，开始来到了我们身边。

01

AI技术的副作用正在出现！

算法、算力和数据经历几年积累后，AI威力已大不相同。百度在前不久的云智峰会上提出，AI工业化时代来了。马化腾在世界人工智能大会上表示：人工智能在未来十年会迎来高速发展。AI技术到了大规模落地到各行各业的关键时刻，是真的已经爆发了。

AI技术爆发带来的问题，是人们始料未及的，人类没有做好准备。

单单是一个人脸识别，就有大量的值得人们焦虑甚至恐惧的问题：如果换脸技术被用于恶意合成色情或暴力视频，可能会给当事人带来类似于网络暴力这样的灭顶之灾；如果人脸识别技术被任何人轻松掌握，隐私对每个人来说将会成为奢侈品；如果人脸识别技术被犯罪分子破解，人们的隐私、财产甚至人身安全都会面临巨大的威胁。

有人说，在AI技术大规模应用前，到处都有摄像头，别说公共治安网络了，商场、餐厅、公司、小区都安装了摄像头，每辆车上都有行车记录仪，人脸数据一直在被收集。但是，AI技术普及前你的人脸数据一般都没人关心，没人去分析利用，因为成本太高。而AI技术的核心价值是可以对数据进行更有效、更快速和更深度的挖掘，你的人脸数据被侵犯的风险大大增加。特别是5G时代到来，AIoT爆发后，终端侧数据将有可能被实时同步到云端或者边缘侧，被AI深度挖掘。

到时候，你的人脸数据将被AI无处不在的监控。商场知道你的逛街习惯，你和谁一起逛街，你习惯于买什么；餐厅知道你的纪念日，你和谁约会，你习惯点什么……你可能会想，我可以戴着口罩出门，保护自己的人脸隐私数据，但是，AI现在已经步态识别，你怎么遮掩都没意义。

想想都很可怕。

AI技术带来的问题远不止于人脸识别这样的数据隐私问题。

1、AI技术会给网络欺诈提供便利，让“造假”变得更加容易，且难以辨别。

• 你在约会App上跟一个姑娘火热地聊一个月，聊得很开心，给她发红包、送礼物、献殷勤，约见面却被拉黑了，因为对方很可能只是一个AI虚拟人；
• 你在直播平台给一个性感妖娆的妹纸打赏，对方可能不再是遮脸骗钱的乔奶奶，而是直接换脸的抠脚大汉；
• 你在电商平台看到KOC们颇具煽动性的点评，也只是AI的即兴发挥；
• 你接到的骚扰电话不再是推销员孜孜不倦拨打的，而是AI自动拨出，话术量身定制；
• 社交平台的僵尸粉会“活”起来，基于AI技术人模狗样地发发段子，晒晒图片。

2、AI技术会让很多人失业，尤其是重复性强的工作，比如收银、客服、监测、软件测试工程师。

前段时间看到一个新闻，一个高速公路收费站员工集体抗议电子支付，理由是他们第一份工作就是收费员，人到中年除了收费什么都不会。AI对就业岗位的取代尚未大面积开始，“收费员”们怎么办？我们都相信，AI会增加更多的工作岗位，但算法这样的AI岗位显然不适于失业者。

3、AI算法是被人训练出来的，人的偏见会被AI继承，比如性别歧视、种族歧视、地域歧视。微软副总裁、人工智能事业部负责人沈向洋曾谈到人工智能的“偏见”——你在网络搜索“CEO”会发现，出来的结果基本上没有女性，亚洲人面孔很少。

4、AI技术被黑客掌握，黑客的攻击手段会全面升级。

去年底，纽约大学一个团队研发了一个名为DeepMasterPrints的机器学习工具，其利用生成对抗网络（GAN）创造的“万能指纹”，破解指纹锁的成功率最高达到了76%，类似的应用还有AI识别验证码、AI模拟DDoS攻击等等。经典网络安全技术必须要全面升级，才能实现对AI攻击的对抗。

AI工业化时代来临，AI技术应用到各行各业，渗透到人们生活方方面面已是不可阻挡的趋势，从ZAO和AI教室监控引发的争议来看，跟大力推动AI落地同等重要的是，如何让AI以正确的方式落地，这意味着“AI伦理”将变得至关重要。

02

是时候重视AI伦理了！

伦理指人与人相处的各种道德准则，AI伦理是人与机器以及AI时代人与人相处的道德准则。

前段时间，“首例基因编辑婴儿”事件备受关注，深圳医学伦理委第一时间回应并启动调查。在医学行业，伦理对于技术制约的重要价值已得到很好的体现，AI技术的高速发展就跟基因编辑技术一样，需要伦理来制约，一些机构和企业已经在探索。

加州大学伯克利分校、哈佛大学、剑桥大学、牛津大学和一些研究院早已启动AI伦理研究项目，早在2016年，亚马逊、微软、谷歌、IBM和Facebook五大美国最具AI技术实力的巨头就联合成立了一家非营利性的人工智能合作组织（Partnership on AI）以解决AI伦理问题，这一组织在2017年1月迎来了苹果。

2017年微软在内部成立了人工智能伦理委员会（AETHER）；2018年，在F8开发者大会上，Facebook宣布已成立专门伦理团队防止人工智能的偏见。

当初让AI进入大众视野的是打败李世石的AlphaGo，其开发公司是英国的DeepMind公司。作为AI标杆，DeepMind自成立以来，就将AI伦理放在跟技术同等重要的位置。2014年，谷歌以6.5亿美元的价格收购DeepMind，DeepMind的创始人设定的交易条件之一是谷歌创建一个AI伦理委员会。

谷歌在2019年才兑现这一条件，成立人工智能伦理委员会，以指导公司“负责任的人工智能发展计划”，不过这一委员会很快就因为员工抗议而夭折。谷歌高管组成的高级技术审查委员会（ATRC）在事实上扮演了谷歌AI伦理管理的角色，ATRC由谷歌首席法律官肯特·沃克(KentWalker)管理，余下成员均是谷歌极具权势的高管。

AI伦理在中国已经引发科技巨头和监管部门的关注，且很快会转化为具体行动。

03

AI伦理委员会将成科技大公司标配

百度是中国布局AI最激进的科技巨头，拥有领先的AI技术，其掌门人李彦宏多年来一直在为AI摇旗呐喊和建言献策。今年两会上，李彦宏第一个提案就是关于人工智能伦理，其认为：

“人工智能技术近年来发展非常迅速，不仅理论上不断推陈出新，在计算能力上也越来越强，数据也越来越多，可做的事情也越来越多，因此需要从社会、政府和公众的角度来考虑在人工智能发展道路上，什么该做，什么不该做，什么是好的，什么是坏的，尽量避免人工智能向不好的方向发展。比如，怎么避免大量的失业，怎么保证数据的安全，怎么不被黑客所攻击，等等。李彦宏认为这些问题需要及早地从全局来进行考虑。”

在最近的智博会上，李彦宏认为，人工智能不再讲究酷炫，而是讲究扎扎实实推进和落实，对于人工智能发展，李彦宏提出了三个建议，第一个，就是要关注安全和效率。

同样是在今年的两会上，马化腾也专门就科技伦理建设提出建言，他认为，只有进一步加强科技伦理对科技活动的引导和规范，才能促使科技活动朝着更加有利于人类和人类社会的方向发展。

腾讯虽然不强调技术，却是AI技术应用的身体力行者，致力于将AI技术应用在公司业务方方面面，马化腾则是中国较早关注AI伦理的企业家，在去年的世界人工智能大会上，马化腾提出AI发展要做到四可：

在未来人工智能是否能做到“可知”“可控”“可用”“可靠”，对于全人类能否更好地利用人工智能创造价值非常重要。人工智能需要做到可知，让算法更加清晰；做到可控，避免人工智能被不发分子利用，危害社会；做到可用，尽可能多的让所有人都能享受到技术红利，减少技术鸿沟；而做到可靠则需要我们不断努力，以修复漏洞、达到安全稳定，让人工智能更好地为人类服务。

今年的世界人工智能大会上，马化腾在演讲中再次指出：

AI 治理的紧迫性越来越高，应以“科技向善”引领AI 全方位治理，确保AI“可知”、“可控”、“可用”、“可靠”。

腾讯将愿景和使命升级成“科技向善”四个字，与AI时代新的伦理挑战有直接关系，当时马化腾转发的链接是将跨年龄人脸识别技术应用于寻人这一公益场景。科技向善提出者是“大师兄”张志东，他一直在观察技术对社会的影响，希望腾讯的技术可以造福于人。什么是善？这是道德层面的事情，科技向善本质是一个科技伦理的话题。张小龙说，善良比聪明更重要，这跟科技向善是一脉相承的，善良比聪明重要，道德比技术重要，伦理是科技发展的前提。

科技巨头已经在自觉行动，监管部门则从顶层设计上决定了AI伦理的规范和执行。

今年6 月国家新一代人工智能治理专业委员会发布报告，提出发展“负责任的人工智能”，这是我国首次发布人工智能治理原则。7月24日，《国家科技伦理委员会组建方案》被通过，根据《国家科技伦理委员会组建方案》要求，组建国家科技伦理委员会，会议指出：

科技伦理是科技活动必须遵守的价值准则。组建国家科技伦理委员会，目的就是加强统筹规范和指导协调，推动构建覆盖全面、导向明确、规范有序、协调一致的科技伦理治理体系。要抓紧完善制度规范，健全治理机制，强化伦理监管，细化相关法律法规和伦理审查规则，规范各类科学研究活动。

显而易见，国家层面、行业层面和公司的AI伦理委员会势在必行。如何避免企业利益站在伦理之上？如何避免AI技术发展超过伦理建设？行业巨头如何共同遵守伦理约束？国外科技巨头的科技伦理委员会、医疗行业的医学伦理委员会，值得借鉴。

数百年来，人类一次次成功驾驭一代代新技术改变世界，人类文明得以不断进化，人类社会突飞猛进，相信人类同样可以很好地驾驭AI，让AI向善，造福于人类。