日本总务省发布“AI网络化研讨会”中期报告

2016年4月15日，日本总务省整理了2016年2月至目前举行的“人工智能（AI）网络化研讨会”的结果，并发布了相应的中期报告。报告展望了拟实现的社会形态，分析了AI网络化的影响和风险以及当前亟待解决的问题。

（1）拟实现的社会形态

研讨会提出了“智慧网络社会”（Wisdom Network Society，WINS，简称“智连社会”）的构想。作为AI网络化发展的成果，“智连社会”实现了人类与AI网络系统的共存，其构建的智能网络使数据、信息和知识能自由且安全的生成、传输和连接，各领域皆能跨越人和物的界限协调发展，整个社会充满创造性和活力。

（2）AI网络化的影响

报告分析了2020至2040年间，AI网络化对公共（包括公共基础设施、防灾、智能城市、行政等）、生活（包括生活支持、创造性活动、社区活动等）、产业（包括农林水产、制造、交通物流、零售、金融保险、医护、科研教育、服务业等）的影响，并测算了AI网络化给日本带来的直接经济效应，2045年市场规模将增加121兆日元，GDP增加68兆日元。

（3）AI网络化的风险

①AI网络系统功能相关的风险

安全方面，AI网络系统面临着黑客、网络攻击等威胁，且这些攻击比较隐蔽难以察觉；信息通信网络系统方面，由于各种AI混合存在或者通信网络故障，导致AI网络系统运行失常、发生意外事故，另外云中数据泄漏或丢失也是一个问题；AI算法的不透明导致人类难以正确控制AI网络系统；由于超智能的出现，以及AI网络系统失控等原因，使人类很难控制机器。

②法律制度及权益相关的风险

自动汽车、机器人等基于自主判断的行动可能造成事故；通过滥用AI网络系统的恶意软件进行犯罪，或滥用自主兵器进行恐怖主义活动；因无法正确使用AI网络系统而损害到消费者、青少年和老年人的权利；由于AI网络系统对个人信息的收集和利用不透明，造成个人信息难以控制，且AI网络系统对人的信念、健康、未来行动的推断会侵犯到个人隐私；一旦AI拥有超越人类的智慧，会动摇以人为本的价值体系；在政治上，AI网络系统有可能被利用来操控投票等国民行为，另外在将AI网络系统用于国家统治时，可能导致决策过程的不透明以及职责分配的不清晰。

（4）亟待解决的问题

目前亟待解决的问题包括：制定相应的AI网络化研发原则；确保生态系统充满创新性与竞争性；保护用户；确保与AI网络化相关的安全；涉及隐私及个人数据的体制问题；与内容相关的体制问题；探讨社会的基本规则；加快完善信息通信基础设施；预防AI网络差距的产生；培养与AI网络系统相关的素养；针对AI网络化开展人才培养；打造安全网络；通过解决全球性难题造福人类；探索AI网络系统的治理方式。