极棒 CAAD 登陆 DEF CON:腾讯安全云鼎实验室揭秘病毒免杀“新武器”

人工智能的飞速发展正在将世界带入一个全新的维度,但这同时也将网络世界的正邪对抗推入下一个战场。

美国当地时间8月10日,由  GeekPwn 主办的 CAAD Village 登陆世界顶级极客大会 DEF CON。腾讯安全云鼎实验室在 CAAD Village 上带来前沿议题分享,云鼎实验室安全专家张壮、史博以基于卷积神经网络的多形态恶意软件检测为例,分享了安全厂商应用人工智能之后对抗病毒免杀技术的效果;同时还站在攻击方的视角,介绍了恶意软件使用了生成式对抗网络之后,可绕过应用机器学习检测模型的案例。为人工智能趋势下的正邪对抗带来全新思路,受到了与会专家的重点关注。

(腾讯安全云鼎实验室安全专家张壮)

▼“检测”与“免杀”不断进化   AI 成下一个战略高地

面对不断涌现的新型病毒和已知病毒的变异,基于病毒代码文件特征的传统检测方法逐渐变得“捉襟见肘”。张壮对此表示,针对杀毒软件的查杀机制,病毒开发者通过修改特征码、指令加花、软件加壳、修改 PE 文件等手段使病毒免于杀毒软件的查杀。

此外,免杀技术也已从黑客的专业技能变成了一项可以用低廉价格轻易获取的标准服务:在暗网只需370美金,在国内花费1800元就可获得一套免杀服务。这无疑进一步加剧了安全厂商应对病毒攻击的挑战。

而人工智能的快速发展,则让安全厂商看到了未来。张壮指出,在面对新增病毒样本数量巨大,无法有效通过手工及时添加规则、手动规则提取在有些问题中的不适性、人工规则主观性很高等检测难点,人工智能查杀都能轻易克服。

全球各大安全厂商因此纷纷应用这一前沿科技,但具体的实现过程千差万别,云鼎实验室在会上分享了自己的实践,通过机器学习处理复杂问题,将二进制病毒转化为一[A1] 个灰度图,利用深度学习中的卷积神经网络(Convolutional Neural Networks,简称CNN)来进行图片分类,达到高效检测新增样本和样本变种,识别出病毒的家族关系和不同家族之前的区别,发现更多更深层次的特征关联。

人工智能查杀可以处理海量样本,检测特征纬度更广,病毒免杀难度增大。对于加壳或者多态变形病毒也有着良好的效果,检测过程无需脱壳。但是张壮指出,人工智能的模型本身存在一些“视觉盲点”,容易受到生成样本的攻击,更重要的是,人工智能的相关技术同样可以为病毒开发者所用。

毫无疑问,人工智能介入后,杀毒与反杀毒的较量将进入到下一个回合。

▼ GAN 应用免杀已获验证   安全厂商需未雨绸缪

今年3月,《麻省理工科技评论》公布了2018年“全球十大突破性技术”,生成对抗网络(Generative Adversarial Networks,简称 GAN)赫然在列。GeekPwn 曾对这种前沿的深度学习模型作出解读:GAN 可以简单理解为一位制造仿制品的名画仿造者与一位名画鉴定师,两者在互相博弈的过程中训练自己的技巧,让各自的技能得到提升。最终,仿造者会生成鉴定师无法判断的赝品。

《麻省理工科技评论》也表示,“它(GAN)给机器带来一种类似想象力的能力,因此可能让它们变得不再那么依赖人类,但也把它们变成了一种能力惊人的数字造假工具”。

张壮在 DEF CON 2018大会上验证了这一预言的真实性。他表示,通过 GAN 生成器和判别器相互对抗,可以提升病毒的伪装能力,最终生成在杀毒软件判断标准下的“非恶意程序”,使病毒成功绕过基于机器学习的检测模型 。

比如,机器对一张图片以57.7%的置信度将其归为“熊猫”,但是在应用 GAN 之后,可以使其以99.3%的置信度将其归为“长臂猿”;在被攻击前后,图像一个像素的改变,就让机器识别一个图像为“青蛙”的概率从99.999714%变为7.460092%,而这前后的巨大差额转化成为了89.782685%的概率识别成“猫咪”。

张壮进一步表示,GAN 应用在免杀中,攻击者对于被攻击模型的结构和权重都有完全的了解,而常规的攻击手段对于被攻击的模型却一无所知,“最终通过把‘黑文件’伪装成为具有高可信度的‘白文件’,以达到欺骗机器学习模型,甚至欺骗人类的目的”。

针对病毒免杀技术的新发展,张壮也给安全厂商提出了如下防御建议:

1、红蓝军对抗式的自我检测:安全厂商需要未雨绸缪,可提前自己攻击自己的模型,发现自身模型“盲点”,并及时修复盲点,从而提升防御能力;

2、规则不暴露:安全厂商不要暴露对恶意文件的评分情况 ,这样模型(鉴定器)会直接受到针对特征的攻击,给出的评分会告诉攻击者攻击效果,对攻击者下一步的攻击方向具有指导作用,比如:哪些些特征影响大,哪些特征有效果;

3、多维度检测:提取更多有效、稳定的特征,使得针对广泛普遍的特征生成的免杀样本同样难逃查杀

未知攻焉知防,白帽黑客站在攻击方的角度研究前沿技术,正在加速安全厂商掌握新时代攻防的主动性。以本次研究为例,腾讯安全云鼎实验室的研究成果已应用在攻防一线,进一步提升腾讯云的云主机病毒查杀能力,守护广大用户的网络安全。

原文发布于微信公众号 - 腾讯云安全(TencentCloudSecurity)

原文发表时间:2018-08-14

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏企鹅号快讯

深度学习即将非法?欧盟《一般数据保护条例》五月生效

选自Analytics India 作者:Richa Bhatia 机器之心编译 《欧盟一般数据保护条例》(General Data Protection Re...

22580
来自专栏数说工作室

量化投资之资本资产定价模型(CAPM)

量化投资之资本资产定价模型 (CAPM) 目录 一、前言 二、CAPM模型 1. 切点组合、分离定理与市场组合 2. 资本市场线 ...

546120
来自专栏新智元

【一张图看疯狂的NIPS 2017】十年数据盘点今年NIPS多项“历史之最”

【新智元导读】要说今年的NIPS有多火?Facebook的Alex LeBurn做了一张图,展示了从2012年到今年NIPS售票情况,今年的门票抢购速度惊人,距...

39380
来自专栏FreeBuf

深度学习:能击败欧洲围棋冠军,还能防恶意软件

上月底,权威科学杂志Nature发表了一篇关于谷歌人工智能程序AlphaGo击败欧洲围棋冠军的文章,其中介绍了AlphaGo程序的细节,它实际上是一个结合了深度...

21070
来自专栏新智元

Ian Goodfellow推荐:GAN生成模特照片媲美真人

【新智元导读】 在线时尚科技公司 Vue.ai 开发了一种或将取代模特的自动生成试装照片的系统,该系统使用GAN技术,可以控制所需模特照片的体型、肤色、身高、鞋...

33740
来自专栏华章科技

麦肯锡报告:关于深度学习有120个商业机会

有理由相信,深度学习将彻底改变以下提及的这12个领域。 这些行业的大多数领导者都在关注机器学习,不过他们却认为深度学习带来的改变在遥远的未来才会发生。他们错了。...

8720
来自专栏新智元

金融大鳄索罗斯再度唱空中国经济,深度学习能预测金融危机?

【新智元导读】金融大鳄索罗斯日前发表评论,他看空中国经济,目前正在做空亚洲货币。今天,《人民日报》海外版刊文斥责索罗斯的“唱空论”。那么,中国情况究竟怎样?芬兰...

54280
来自专栏量子位

墙后的所有姿势,全被“瞎眼”AI透视

现在,MIT CSAIL的一群科学家,就用AI构建了一双透视眼。你在墙后的一举一动,它就都能看见。这项研究,作为spotlight论文发表在CVPR 2018上...

15130
来自专栏机器学习AI算法工程

用R语言作上海房价预测模型

考虑到商品房经济始于1998年,且可供查找的数据截止到2011年,故本文的数据来源于1998-2011年的《上海统计年鉴》和国家统计局。在本文中主要讨论影响上...

56370
来自专栏数据科学与人工智能

【应用】信用评分:端到端的开发过程

合理的“现在购买,稍后付款”是许多金融和零售公司为了增加客户群而向其客户提供的诱人服务。 但是,双方在进行信贷决策时需要了解风险。 贷款人和客户都很重要,即客户...

14300

扫码关注云+社区

领取腾讯云代金券