明略科学院Fellows分享会-中国工程院院士方滨兴：人工智能安全之我见

人工智能在推动产业发展的同时，也给安全领域带来了巨大挑战。中国工程院院士方滨兴认为：未来出厂的任何人工智能系统，只要是一个行为体，可运动、具有破坏力、具有智能，甚至有失控风险，都要“加上保险箍”。

8月17日（本周五）16:00，明略科学院Fellows分享会，我们邀请到中国工程院院士方滨兴发表“人工智能安全之我见”主题报告演讲。

此前，明略科学院Fellows（国家“千人计划”特聘专家、长江学者、IEEE & AAAS Fellow、明略科学院院长吴信东教授，中国科学院院士、西安交通大学教授徐宗本，中国科学院院士、中国科学院数学与系统科学研究院研究员 陆汝钤）已经围绕“大数据、大知识、大智慧”为我们带来精彩演讲报告。本周五将由方滨兴院士为我们现场分享人工智能安全领域方面的前瞻思考。

信息网络与信息安全专家，曾任国家计算机网络与信息安全管理中心主任兼总工程师。现任信息产业部互联网应急处理协调办公室主任，国家计算机网络与信息安全管理中心科技委主任、教授级高工、博导。

方滨兴院士创造性地提出了建设国家网络与信息内容安全基础设施的概念，并率先主持建设了包括国家网络安全监控平台在内的多个相关系统，目前已经有两个系统分别获得国家科技进步一等奖及二等奖。该基础设施已经成为保障国家信息安全的重要手段，取得了显著的社会效益。尤其是在公共互联网上的网络安全事件的处置等方面发挥了重大的作用。目前，首次对信息安全的概念给出了形式化的定义，基于这个定义，首次提出了信息安全属性可计算性的思想，并取得了初步的成果。

★《人工智能安全之我见》核心观点：

1

任何一个新技术，都会出现安全问题。人工智能安全主要是两方面：

-人工智能应用于安全领域，它既可以用于网络防御，也可以用到网络攻击上；

-人工智能自身带来的安全问题，这表现在人工智能自身存在的脆弱性和人工智能对人可能产生的威胁。

2

一个AI行为体有四大要素：

-感知外部环境；

-内部算法，要有决策体系；

-有驱动，能够自我移动和运动；

-具有自制能力，能自己决定自己做的事情（但这也被视为一种失控状态，人类对它无法控制）。

3

人工智能对人的威胁，在三种条件下就对人有威胁，我们称之为三要素：

-行为能力

-自治能力

-破坏力

4

“在协同中，尤其是人机在一起的时候，首先需要考虑保护人类。”这有四大要素：

-在功率力方面要有限制，人工智能不能对人施加大力去伤害；

-速度和距离，机器人要和人保持安全距离；

-手动引导；

-安全级的监控停止。

5

未来出厂的任何人工智能系统，只要是一个行为体，可运动、具有破坏力、具有智能，甚至有失控风险，都要“加上保险箍”。

“我们提出了一个叫人工智能保险箍的系统，我们叫做保险箍，就像紧箍咒。它必须串联在AI的决策系统中，能发挥作用，可以起到四个作用：远程控制，自己不能摘除，安全策略和监控系统。”

★活动详情

时间：8月17日（周五）16:00-17:30

地点：北京·清华科技园

议程：

报名方式：

在职人士，请微信回复您的：姓名、公司、职位、手机号

在校人士，请微信回复您的：姓名、学校、专业、年级、手机号

报名截止时间：

2018年8月16日18:00

说明：

因参会名额有限，报名成功后您将收到短信通知，请留意短信通知。如果确认无法参加当天活动请提前在明略数据微信公众号留言。感谢您的理解与支持！

明略科学院Fellows分享会，诚邀您莅临指导，共创行业人工智能时代！

★明略科学院简介

明略科学院依托于行业人工智能独角兽公司明略数据，以科技、商业两翼齐飞的前沿科技阵地为定位，以大数据和人工智能研究为抓手，以“大数据、大知识、大智慧”基础理论为发力点，促进产、学、研、用一体化，共享研究成果，助力政府机构和企业实现智能计算和知识服务。

目前已有来自中国科学院、中国工程院、澳大利亚科学院等机构的十几名院士入选首批Fellows，共同推动中国行业人工智能的前沿技术发展。他们包括中国科学院院士、中国科学院数学与系统科学研究院研究员陆汝钤，中国工程院院士、清华大学教授吴建平，中国科学院院士、西安交通大学教授徐宗本，中国工程院院士方滨兴，澳大利亚科学院院士、IEEE Fellow陶大程等。

此外，三十余位来自清华、北大等国内外著名学府毕业的博士硕士加入成为明略科学院骨干精英，他们中不少人拥有在IBM、NEC、Oracle、Schlumberger等500强企业的实战经验。