人工智能“降门槛”须警惕安全风险

一批人工智能开放平台正在大幅降低技术门槛,让人工智能走近中小企业,不再是财力雄厚者才能拥有的“奢侈品”。专家认为,开放平台是人工智能技术发展新趋势,将推动人工智能发展进入高峰,但同时也不可避免带来多重安全风险,须予以防范。

人工智能“降门槛”推动创新

前段时间在浙江召开的第五届世界互联网大会上,中科院院士专家作为世界互联网领先科技成果推荐委员会中方主任,高度评价人工智能平台类成果。发布成果由47名全球知名的互联网业界专家投票产生,代表了互联网领域的创新智慧和未来互联网的发展趋势。专家认为打造智能生态,将利于其他中小企业平台和技术进行进一步开发。

如今很多的人工智能设备都是针对特定的应用场景,垂直集成,产业协同效应低,开发费用往往达到数亿元,周期要数年。这个产业急需一个开放适配性强、互通的人工智能软硬件开发平台来降低开发成本。

大家都知道人工智能的重要性,但除了科技巨头的企业,没有多少公司能真正有实力去开发先进的人工智能技术。所以将过去积累的技术能力开放出来尤为重要。

天下武功,唯快不破。进入智慧时代,‘快’不仅仅是‘日新月异’,还可能是以小时、以分钟计算。”创新速度是人工智能发展的核心竞争力。

多重安全风险值得警惕

多名专家和业内人士表示,人工智能发展曾经历多次低谷,本轮发展呈加速态势,行业内对此已有共识,同时也应充分认识到,人工智能带来的安全问题也会随发展“动态演进”。

人工智能“降门槛”将催生更多黑客、更多病毒和更短攻击周期。在网络安全领域,人工智能的普及将有助于识别网络安全风险,同时也将降低黑客的门槛,让更多人学会黑客,病毒的变种越来越多,且周期会越来越短。

随着人工智能的进步,人工智能的‘双刃剑’特征会愈演愈烈。

如今的网络攻击已实现了智能化、自动化,速度极快。网络安全监控经常会发现一些网络攻击,发现后再去分析研究,拿出解决方案后还未实施,网络攻击已经过去了,而新的攻击已经开始。

人工智能所依赖的传感器、训练数据和使用的开源软件等存在安全隐患。中国信息通信研究院日前发布的《人工智能白皮书》显示,人工智能产品和应用的研发主要基于一些科技巨头发布的人工智能学习框架和组件,而这些开源框架和组件缺乏严格的测试管理和安全认证,漏洞和后门易被恶意利用。

有一种做法是‘数据投毒’,想办法在训练数据里混入一些不正常数据,训练出的人工智能系统就一定会犯错。软件只要是人写的,就一定有漏洞,比如1000行代码里就会有4个漏洞。由于漏洞不可避免,目前网络攻防很不均衡。严格来说,传统大家常见的入侵检测、防火墙、杀毒软件这些技术,在抵御这种攻击上已经显得无能为力。

目前人工智能生态还未完全建立,尤其是在产业各个环节处于一个相对割裂的状态,这就意味着黑客有机可乘。人工智能所带来的安全风险还包括拒绝服务、信息泄露、系统劫持等,可导致识别系统出现漏判、误判,导致系统崩溃、被劫持,或使智能设备变成僵尸攻击工具等。

风险管控及治理体系亟待建设

人工智能具有多学科综合、高度复杂的特征,我们需统筹谋划,稳步推进,把增强原创能力作为重点。在继续加大人工智能研发应用力度、发挥人工智能应用潜力同时,要预判人工智能挑战,从技术、法律等方面“扬长避短”,防范风险。

首先,需要立足自身突破人工智能关键核心技术。国内人工智能企业、科研机构要有清醒的认识,我们在基础层面上还是有明显差距,还要加强基础研究和投入。人工智能的应用才刚刚开始,但还处于起步阶段,在解释因果关系上目前还无能为力。更多的希望要寄托在人工智能的进步上。

其次,应打通数据孤岛提升安全防护能力。网络安全是‘牵一发动全身’的一个整体。我们面临的很大问题是各个企业‘各自为战’,数据没有打通,没有全球或全国的视野,就看不到真正网络攻击发生的过程。

第三,建立健全保障人工智能健康发展的法律法规、制度体系。科技发展已经远远甩开现有社会法规与伦理规范,建立新的网络秩序迫在眉睫。要让网络空间和谐有序,社会、智库、企业必须建立一个统一的网络法律和规则。

微软提出了“公平、包容、透明、负责、可靠与安全、隐私与保密”的“六大原则”指引人工智能发展,由多个部门负责人组成团队制定政策来管理和指导开发“负责任”的人工智能产品。

此外,也要加强国际交流探讨治理应对策略。国外专家建议,国际各方应通过构建官方和非官方均认可的网络空间行为规则,预防风险共铸安全长城。

(文章来源:经济参考)

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181214B111HN00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券