郑建华:解读人工智能与信息安全

郑建华

信息分析专家。解放军保密委员会技术安全研究所研究员。中国科学院院士。长期从事复杂信息系统分析和相关基础理论研究,对该领域的序列论、函数论、算法设计与分析等进行了系统研究,在复杂信息系统输出分析技术、系统模型解析理论和方法、系统参数还原技术研究中均取得创新性研究成果,这些研究成果在实际复杂系统分析中多次发挥显著作用。曾获国家科技进步一等奖等。

人工智能的每一层都存在安全需求

人工智能的每一层都涉及到安全问题和数据安全问题。在身份识别认证中,人和设备是不是可信的,是不是有正当权限的人和设备。数据保护中,不管是传输还是存储过程,都要保证数据的可控性、真实性和可追溯。如果数据在传输或存储过程中被篡改了,那到最后通过算法推导出的结果,也必然是不真实和不可信的。

但在这个过程中也存在一个问题,保证数据能够进行有效地汇聚,既要保证数据所有者的权益,同时又能够通过这种大数据的汇聚产生价值,在可控的范围之内,这里的安全问题也是现在研究的重点和难点。

政府要主导人工智能应用的安全建设

在重视应用的同时也要考虑到安全和应用建设的同步发展。

政府要主导,在人工智能应用中深入分析安全需求,进行顶层的设计,提出安全要求;加强安全制度建设,建立安全准入制度和检测评估方法、机制。

企业应该从感知、传输、分析协同、服务控制等方面建立一些安全标准。同时既要重视机制的保障还要重视技术的保障,使人工智能的应用和网络安全建设同步发展。

人工智能改变网络安全的未来

人工智能在网络安全领域也得到越来越多的应用,它在主动安全防护、主动防御、策略配置方面发挥的作用越来越大,但是当前仍旧处于探索阶段。比如基于神经网络,在入侵检测、识别垃圾邮件、发现蠕虫病毒、侦测和清除僵尸网络设备、发现和阻断未知类型恶意软件执行等方面进行了大量的探索;基于专家系统,在安全规划、提高安全运行中心效率、量化风险评估、威胁情报等方面也做了很多探索,收到了良好的效果。

人工智能技术的蓬勃发展,也必然对网络空间安全带来重大的机遇和挑战。

来源:走向智能论坛

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180526B06ET900?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券