人机交往或替代人际交往

科技是双刃剑，既带来机遇，也带来挑战。

文/广州日报全媒体记者王纳

图/广州日报全媒体记者轩慧

截至2019年6月，中国人工智能相关企业总数约2939家，居全球第二，京深沪杭已成为我国人工智能企业最密集的地区，内地人工智能产业已初步形成产业链。

但是，算法歧视、数据滥用和失业等问题或将接踵而至，甚至人际交往可能被人机交往所替代，人类可能会沉迷人工智能及营造的虚拟环境而引发人文精神危机……

上周末，深圳人工智能行业协会发布的《2019人工智能产业白皮书》（以下简称《白皮书》）指出我们在享受人工智能带来的红利的同时，也应该开始正视人工智能将给人类社会带来的挑战。

AI带来的挑战不容忽视

8月16日，由深圳市人工智能行业协会主办的第二届全球人工智能创业者大会在深圳召开。本次大会聚焦AI伦理道德、5G技术、AIOT、智慧城市、智能制造、金融科技等领域，旨在探讨如何利用人工智能技术，实现融合创新，探讨人工智能产业的发展新思路。

虽然如今人工智能行业发展迅猛，但是《白皮书》中也指出，人工智能的发展将充满各种不确定性，算法歧视、数据滥用和失业等问题或将接踵而至，给人类社会带来挑战。

《白皮书》指出了存在的一些风险。如数据和隐私问题，人工智能获取的一些专有数据或个人敏感信息存在被泄漏的风险，导致财产和安全风险以及其他威胁；算法偏差问题，算法模型实际上隐含着各种人为造成的主观歧视、数据驱动造成的歧视、机器自我学习造成的歧视，会导致各种各样的问题，如基于智能算法的自动智能决策可能违反人类的道德习惯，甚至违反法律规范等；技术滥用隐患问题，人工智能可以伪造个人笔迹、语音、动画和视频，恶意者可以以此改变事实、改变某些观点和态度，对社会秩序各方面构成严重威胁。

最为社会关注的还有就业问题。据研究，在2000多项工作中以及800多个职业中，近六成的职业或行业中，至少有30%以上的工作内容在技术上基本可以完全实现自动化。很多重复性的、数据性的、劳动密集型的非技术工种如收银员、快递员、信贷员、司机、工人、农民等基本会被取代。人工智能技术在提高社会生产率、给人类生活带来便利的同时，也将带来大规模的劳动力转型，对就业产生巨大的冲击。

还有更深层次的人类情感和精神危机问题。《白皮书》中也指出，从现有研究成果看，已经出现了可以感知人类情绪包括分享人类快乐和抚慰人类悲伤的陪伴型机器人，未来还会出现伴侣型机器人，这对人类情感需求、生活趣味以及社会正常发展带来极大挑战。互联网正使人类被无穷的电子信息所包围，人与人之间的交往有可能被人机之间的交往所替代，人类可能会沉迷人工智能及营造的虚拟环境而引发人文精神危机。

警惕AI技术被滥用

会上，中山大学数据科学与计算机学院教授、广东省信息安全技术重点实验室主任赖剑煌对人工智能技术被滥用表示担忧。

“AI技术正在被滥用，浏览、搜索、网上购物和社交，你用过的软件上面都会留下一些痕迹，它都会掌握你的信息，知道你的喜好，以及大量的手机软件在分析人们的各种数据，我们进入了一个透明人的时代。”他表示，以人脸识别技术为例，因为生物识别特征具有隐私性，一旦某个公司存了你的人脸信息，如果该公司想做别的事情，那就非常危险。

赖剑煌呼吁，人脸识别技术应该由政府部门管起来，比如说公安部，统一去做网上的人脸认证。他表示，对于人工智能行业的创业者，在开发设计AI技术的时候，应该是使人类生活更加美好。而不是利用AI技术，过度地监控人类的生活。

中山大学法学院教授李扬表示，对于人工智能，一定要坚持工具论或者手足论，人工智能只能是人的手和脚，再来看待人工智能或者是机器人的违法犯罪行为的时候，问题就变得简单了。“不是人工智能做了坏事，机器怎么可能犯罪？所以是由利用者来承担相应的法律责任。”

在本次大会上还发布了《新一代人工智能行业自律公约》，从坚持以人为本、促进正义公平、确保安全可控、注意隐私保护、促进包容共享、确保权责明晰、加强协同合作和健全行业标准八大方面对AI行业进行自律规范。

旷视科技、优必选、奥比中光、云知声、酷开、精锐视觉、夸克云智等企业为公约的共同发起企业，强调要增强行业整体自律意识，维护人工智能行业健康发展，共同创造良好的环境发展。

数说AI

《2019人工智能产业白皮书》显示：我国AI产业规模逐步壮大，增速高于全球平均水平。截至2019年6月，中国人工智能相关企业总数约2939家，居全球第二。2018年市场规模已达415.5亿元，2015年到2018年复合平均增长率为54.6%，增速高于全球平均水平（约36%）。预计到2020年，我国人工智能市场规模约990亿元。

深圳AI技术应用主要集中在应用层的消费终端、智能家居、智慧医疗、自动驾驶、AR/VR等领域，技术层只在计算机视觉、语音识别等局部领域有所突破。据了解，目前，国内人工智能产业已初步形成产业链，其中上游企业提供基础能力；中游企业将基础能力转化成AI 技术；下游企业则将AI 技术具体运用到特定应用场景。