有人推测ChatGPT可以做一些事情，比如创建恶意代码变体，查找恶意软件，并测试新的威胁是否可以使用基于人工智能的技术逃避检测。这还有待观察，但滥用人工智能的可能性肯定在增加。...使用ChatGPT创建恶意软件确实存在技术缺陷。这款聊天机器人只有2021年的数据。虽然它为创建恶意软件组件提供了快捷方式，但人工智能生成的组件很容易识别。...安全工具可以对它们的模式进行指纹识别——如果ChatGPT数据没有持续更新的话，这一点就更加明显了。想要从ChatGPT获取恶意软件吗ChatGPT的公共接口始终拒绝处理恶意软件请求。...Q4 在哪里可以找到用于测试和研究的勒索软件样本?...通过使攻击者更难识别和利用特定的漏洞，MTD可以帮助防止高级AI生成的恶意软件成功危及终端。
此外还会通过搜集反馈回来的失败样本，以及人工打码的标定数据，来实时训练和更新识别网络，不断迭代训练进行优化，进一步提高神经网络模型的识别能力。...由于恶意用户仅占总体用户的少部分，具有异常样本“量少”和“与正常样本表现不一样”的两个特点，且不依赖概率密度，因此此异常检测模型不会导致高维输入的下溢出问题。...该模型可识别异常用户盗号、LBS/加好友、欺诈等行为。随着样本增加，恶意请求的uin、类型、发生时间通过分析端通过线下人工分析和线上打击，达到良好的检测效果。...图2 ML于安全攻防的应用分析 1、机器学习的应用特点 机器学习是个多元学科，其本质是在数据中进行学习，通过合适的算法建模，最终在无规则的情况下，实现分类、聚类或是预测。...，因此恶意访问、攻击样本的不充分，导致模型训练后的检测准确率有待提高。
摘要 近年来，随着机器学习、深度学习等人工智能技术的迅猛发展，其在图像识别、语音识别和自然语言处理等领域已经得到大规模应用，可以为传统方法很难解决或无法适用的问题提供有效的方案，也已经成为网络安全领域中的热门研究方向...，比如将人工智能应用于恶意加密流量的检测就是一种行之有效的方法。...该方法针对各类特征的特点分别构建合适的分类器，最后根据每个分类器的结果进行投票，以少数服从多数的原则产生最终的检测结果。...作者也尝试了使用流级的包长分布特征进行分类器训练，考虑到恶意流量样本中也包含与正常服务的通信，但又无法识别其中的良性流，所以只将包含一条流的样本拿出来作为训练集，最终将不包含任何恶意流的流量样本分类为正常...除了统计和机器学习方法外，《基于深度学习的物联网恶意软件家族细粒度分类研究》验证了深度学习在流量识别方向也具有很好的应用前景，充分展现了人工智能赋能网络安全领域的可行性。
一直没找到人工智能是怎么跟恶意加密流量对抗的。直到看到最后一段。终于看到“人工智能”这四个字了！ ? 图5 人工智能与恶意加密流量的对抗 看过这段文字之后，终于明白了标题二所要表述的内容。...图6 人工智能可以与恶意加密流量对抗 这是一段即没有量化，又没有逻辑的废话。“人工智能算法赋予机器以专家的智慧”这是要换头吗？...并且模型的拟合度极高，6万多样本仅1次就能达到95%以上的正确率。这样的模型可以用于网络中的加密流量识别。我只能惊叹一下，加密流量的特征好明显啊，用个屁的人工智能。 下面的模型更是雷，如图12所示。...训练所需次数少，可以推断数据的维度非常低，数据样本非常少。 少量的样本数据，低维的特征提取，最终只能出来个玩具模型。 准确率基于的是已提供样本识别率，并非现网流量识别率，这个在文中无从衡量。...这样就敢说实现xxx种协议的识别，准确率达到99%。确实有点不合实际。 不服来辨…… 文章到最后也没有对检测引擎的产品给出具体的量化指标，比如：训练样本为多少条，都有哪些类型，各多少条。
例如语音识别，就是在求取合适的变换函数，将输入的一维时序语音信号变换到语义空间；而近来引发全民关注的围棋人工智能AlphaGo则是将输入的二维布局图像变换到决策空间以决定下一步的最优走法；相应的，人脸识别也是在求取合适的变换函数...尤其在大型互联网公司，如何在海量请求中又快又准地识别出恶意攻击请求，成为摆在我们面前的一道难题。...本文将介绍携程信息安全部在web攻击识别方面的机器学习实践之路。 二、恶意攻击检测系统架构介绍 ?...监督学习的目的是通过学习许多有标签的样本，然后对新的数据做出预测。当然也有人提出过无监督的思路，建立正常流量模型，不符合模型的都识别为恶意，比如使用聚类分析，本文不做进一步讨论。...加入多分类，可以识别出不同web攻击的类型，从而更好的和hulk结合。 在其他方面的应用，例如随机域名检测，ugc恶意评论，色情图片识别等等，目前这方面我们也已经陆续展开了实践。
一、背景 通俗地讲，任何一个的机器学习问题都可以等价于一个寻找合适变换函数的问题。...例如语音识别，就是在求取合适的变换函数，将输入的一维时序语音信号变换到语义空间；而近来引发全民关注的围棋人工智能AlphaGo则是将输入的二维布局图像变换到决策空间以决定下一步的最优走法；相应的，人脸识别也是在求取合适的变换函数...尤其在大型互联网公司，如何在海量请求中又快又准地识别出恶意攻击请求，成为摆在我们面前的一道难题。...监督学习的目的是通过学习许多有标签的样本，然后对新的数据做出预测。当然也有人提出过无监督的思路，建立正常流量模型，不符合模型的都识别为恶意，比如使用聚类分析，本文不做进一步讨论。...加入多分类，可以识别出不同web攻击的类型，从而更好的和hulk结合。 在其他方面的应用，例如随机域名检测，ugc恶意评论，色情图片识别等等，目前这方面我们也已经陆续展开了实践。
例如语音识别，就是在求取合适的变换函数，将输入的一维时序语音信号变换到语义空间；而近来引发全民关注的围棋人工智能AlphaGo则是将输入的二维布局图像变换到决策空间以决定下一步的最优走法；相应的，人脸识别也是在求取合适的变换函数...尤其在大型互联网公司，如何在海量请求中又快又准地识别出恶意攻击请求，成为摆在我们面前的一道难题。...监督学习的目的是通过学习许多有标签的样本，然后对新的数据做出预测。当然也有人提出过无监督的思路，建立正常流量模型，不符合模型的都识别为恶意，比如使用聚类分析，本文不做进一步讨论。...我们更关心恶意流量被识别为正常流量的情况（漏报），我们看到这里漏报达到4226条，如果要计算漏报率，可以使用以下指标 print("Classification report for classifier...加入多分类，可以识别出不同web攻击的类型，从而更好的和hulk结合。 在其他方面的应用，例如随机域名检测，ugc恶意评论，色情图片识别等等，目前这方面我们也已经陆续展开了实践。
平台生成的对抗样本「噪音」能够极大干扰两大主流人脸比对平台的识别结果。...「对抗样本」成为「AI 病毒」 我们测试了国内几家科技巨头的人脸识别模型，对抗样本的「伪装」效果均比较明显。...对抗样本可以导致人工智能系统被攻击和恶意侵扰，产生与预期不符乃至危害性结果，对于人脸识别、自动驾驶等特定领域，可能造成难以挽回的人员和财产损失，对抗样本已经成为人工智能系统可能面临的新型「病毒」。...另一方面，对抗样本等算法漏洞检测存在较高的技术壁垒，目前市面上缺乏自动化检测工具，而大部分企业与组织不具备该领域的专业技能来妥善应对日益增长的恶意攻击。...根据上述的模型安全评测结果，用户可自行选择合适的防御方案，从而达到一键提升模型安全性的目的。
有趣的是，在当时人们都认为该算法将很快导致“强”人工智能的出现。即，智能的思考能力、独立思考并可以解决那些默认编程程式外任务的人工智能。...可随后就是“弱”人工智能的时代，它可以解决一些创造性的任务，比如识别图片、预测天气、玩象棋等。...误解三 机器学习——做一次就够了 恶意软件检测和人脸识别在概念上的区别，脸永远是脸，在这方面永远也不会有什么改变。...因为通过客户端的恶意样本的平均数量要比反病毒实验室收集到的恶意样本数量小得多。客户端会因为没有收集到样本进行学习而丧失应对能力。...问题是大多数同家族的恶意软件都是由一个恶意程序修改而来的。例如 Trojan-Ransom.Win32.Shade 是一个拥有超过三万个恶意样本的家族。
有趣的是，在当时人们都认为该算法将很快导致“强”人工智能的出现。即，智能的思考能力、独立思考并可以解决那些默认编程程式外任务的人工智能。...可随后就是“弱”人工智能的时代，它可以解决一些创造性的任务，比如识别图片、预测天气、玩象棋等。...误解三：机器学习——做一次就够了 恶意软件检测和人脸识别在概念上的区别，脸永远是脸，在这方面永远也不会有什么改变。...因为通过客户端的恶意样本的平均数量要比反病毒实验室收集到的恶意样本数量小得多。客户端会因为没有收集到样本进行学习而丧失应对能力。...问题是大多数同家族的恶意软件都是由一个恶意程序修改而来的。例如 Trojan-Ransom.Win32.Shade 是一个拥有超过三万个恶意样本的家族。
《当人工智能遇上安全》系列博客将详细介绍人工智能与安全相关的论文、实践，并分享各种案例，涉及恶意代码检测、恶意请求识别、入侵检测、对抗样本等等。只想更好地帮助初学者，更加成体系的分享新知识。...八.总结 前文推荐： [当人工智能遇上安全] 1.人工智能真的安全吗？...浙大团队分享AI对抗样本技术 [当人工智能遇上安全] 2.清华张超老师 GreyOne和Fuzzing漏洞挖掘各阶段进展总结 [当人工智能遇上安全] 3.安全领域中的机器学习及机器学习恶意请求识别案例分享...恶意行为库是系统设计和实施的重点，直接影响整个系统的设计、实现以及效果。恶意动作、恶意行为要尽可能地区别正常程序与恶意代码，病毒分析经验的运用。除了病毒分析专家之外，没有再合适不过的人选了。...杨轶等通过分析污点传播的过程，识别不同的恶意代码行为间控制指令和数据的依赖关系，从而比较恶意代码的相似性。Imran 等通过隐马尔可夫模型对待测样本的动态行为特征进行描述，并借助机器学习算法实现分类。
《当人工智能遇上安全》系列博客将详细介绍人工智能与安全相关的论文、实践，并分享各种案例，涉及恶意代码检测、恶意请求识别、入侵检测、对抗样本等等。只想更好地帮助初学者，更加成体系的分享新知识。...浙大团队分享AI对抗样本技术 [当人工智能遇上安全] 2.清华张超老师 GreyOne和Fuzzing漏洞挖掘各阶段进展总结 [当人工智能遇上安全] 3.安全领域中的机器学习及机器学习恶意请求识别案例分享...该模型可识别异常用户盗号、LBS/加好友、欺诈等行为。随着样本增加，恶意请求的uin、类型、发生时间通过分析端通过线下人工分析和线上打击，达到良好的检测效果。...：论文之基于机器学习算法的主机恶意代码 3.机器学习在安全领域的特点及难点 机器学习是个多元学科，其本质是在数据中进行学习，通过合适的算法建模，最终在无规则的情况下，实现分类、聚类或是预测。...一步一个脚印前行，接下来希望通过深度学习实现更多的恶意代码识别和对抗样本。
几乎就在同一时间，公司安全部某运营人员的屏幕前自动生成了一条红色紧急告警，告警名称赫然写着“检测到与APT-C-28恶意服务器进行通信”，这让他瞬时心跳加速！ -这个告警是从哪儿来的?...这不仅令人疲于应对，还可能导致真正的威胁被忽视，尤其是识别极具因隐蔽性和复杂性的APT攻击，已成为安全行业面临的一大难题。...精准识别告警 在财务人员点开邮件并打开带毒附件的同时，360安全智能体就凭借独有的超越内核级探针矩阵识别出了可疑样本，随即计算、检索和关联，模拟安全专家进行类人化深度分析，将海量告警快速“去噪”，顺利筛选出这条紧急告警...用户可以一目了然知道问题出在哪里。...该攻击链显示攻击者使用了模版注入技术，投放带宏病毒的恶意文件，运行后释放恶意样本，将窃密模块注册为一个系统服务，收集系统敏感数据，并通过网络渗出数据。 攻击研判 悉数掌握了攻击过程，那么来者究竟何人？
Deep Instinct的学习方法将恶意软件样本分解为大量的小“碎片”，恶意软件从而可以进行映射，就像是基因组序列便是由成千上万更小的序列组合构成。...这些被“分解”的样本仍是二进制位字符串，用于训练神经网络进行系统地识别。在进行了数百万次计算之后，神经网络运行于一个GPU集群中，最终得出一个能够指向终点的静态神经网络结果。...Deep Instinct恶意软件识别率远超传统安全公司 Göttingen大学举行的对16000个恶意软件样本进行识别测试中，来自西门子CERT、Bit-Defender、McAfee、Trend（趋势科技...）、AVG、卡巴斯基、Sophos以及其他安全公司平均识别率为61%，而Deep Instinct对于恶意软件的识别率则高达98.86%。...一些恶意软件样本自主突变，而其功能并没有受到影响。PDF恶意软件的识别率是99.7%，可执行文件的检测率为99.2%。
《当人工智能遇上安全》系列博客将详细介绍人工智能与安全相关的论文、实践，并分享各种案例，涉及恶意代码检测、恶意请求识别、入侵检测、对抗样本等等。只想更好地帮助初学者，更加成体系的分享新知识。...浙大团队分享AI对抗样本技术 [当人工智能遇上安全] 2.清华张超老师 GreyOne和Fuzzing漏洞挖掘各阶段进展总结 [当人工智能遇上安全] 3.安全领域中的机器学习及机器学习恶意请求识别案例分享...(3)性能评估 下面是衡量机器学习模型的性能指标，首先是一幅混淆矩阵的图表，真实类别中1代表恶意样本，0代表非恶意样本，预测类别也包括1和0，然后结果分为： TP：本身是恶意样本，并且预测识别为恶意样本...FP：本身是恶意样本，然而预测识别为非恶意样本，这是误分类的情况 FN：本身是非恶意样本，然而预测识别为恶意样本，这是误分类的情况 TN：本身是非恶意样本，并且预测识别为非恶意样本 然后是Accuracy...基于机器学习算法的恶意代码检测技术步骤大致可归结为如下范式： 采集大量的恶意代码样本以及正常的程序样本作为训练样本； 对训练样本进行预处理，提取特征； 进一步选取用于训练的数据特征； 选择合适的机器学习算法训练分类模型
但是安全领域在使用AI时存在一个巨大的困难，即样本标注难。对于经典的图片识别问题，企业可以使用较低的人力成本批量制作标注样本，然后送入深度神经网络训练。...距离计算选择主要包含两个方面： 如何规定事件边界：繁杂的海量数据输入中，一个事件的边界从哪里开始，到哪里结束，包含哪些数据。...智能分析风险 利用无监督学习，可以在无需标注样本和无人工介入的前提下，发现很多异常的威胁风险。下图是一个被ATD系统识别出的实际例子： ?...反观刷单的恶意行为则会绕过授权页直接访问订单页，这样在无监督学习过程中就自然形成了离群点，这样我们就可以帮助企业识别出刷单的威胁风险。...原来妻子经常会嘱咐丈夫下班以后要为孩子买尿布。而丈夫在买完尿布之后又要顺手买回自己爱喝的啤酒，因此啤酒和尿布的销售行为上具有相关性。
让不同的物体被识别为「飞机」 ? 现代深度网络是非常分段线性的 ? 反应中的接近线性的响应 ? ? 对抗样本不是噪声 ? 让高斯噪声被识别为一架飞机 ?...对抗样本的实际应用 欺骗通过远程托管的 API（MetaMind、亚马逊、谷歌）训练的真实分类器 欺骗恶意软件检测器网络 在物理世界中展示对抗样本，通过一个相机欺骗机器学习系统相信它们 ?...这些对抗样本输入会降低系统性能，即使扰乱微妙地让人类也难以察觉，智能体会在应该往上移动的时候却将球拍向下移动，或者在 Seaquest 中识别敌人的能力受到干扰。 ?...一方面我们在研究让人类觉得它是人类的人工智能，一方面在暴露新的风险。机器学习看起来以对抗样本的方式引入了新的缺陷。你认为有没可能找到一种方式，保护所有的神经网络不被攻击？...Ian Goodfellow：不是，只要云服务提供商采取合适的安全措施，所有东西放到云中会更好，以便于只防御一个系统。 IP：SVM、决策树这样的人工智能方法都有这个问题吗？
上述由恶意的攻击者故意设计生成的以欺骗人工智能系统的样本被称为对抗样本（adversarial samples）。...同样一只猫，上图仅能解释出一些背景，而下图则基本可以识别猫的全貌。 此外，安全专家还悄悄告诉小编，目前国际上还没有一个真正的系统可以对安全驱动的AI系统作出合理解释，我们这套技术可以说是遥遥领先。...1、漏洞研究 任何系统都有漏洞，一直以来，我们的安全策略都是“哪有漏洞补哪里”。 但是，如何确保我们可以在黑产之前发现漏洞呢？...据了解，很多安全研究员都十分钟情这套系统，他们表示，看到人工智能的分析深受启发，帮助自己拓宽了思路。 2、黑产标记 通过AI技术来标记“恶意账号”，是京东安全保障用户信息安全的重要一环。...每到大型购物节，很多黑产为了降低成本，都会注册很多恶意账号，然后用机器集中操作，实现刷票、薅羊毛等不法行为。
一份由学术界、社会团体以及行业人士所撰写的报告《人工智能的恶意使用（Malicious Use of Artificial Intelligence）》指出，任何科技都有其双面性，在大力发展AI技术的时候...在这种干扰下，原本精确的人工智能，瞬间就沦为“人工智障”。 试想如果有人恶意制造这样的对抗样本去挑战我们身边的AI系统，结果会有多可怕呢？...犯罪分子也能够随时从面部识别模型中逃脱？ 如果存在别有用心的人，将马路上的交通指示牌替换，明明是右转的标志，自动驾驶系统缺识别为直行，极其容易酿成交通事故。...未来，AI技术或将从恶意软件的自动化攻击，进化为自动化决策，即能够根据被感染系统的参数进行智能调整、自我繁殖，攻击会变得更加静默和危险。...一旦进入到受感染的系统中，恶意软件还能够安全地学习系统的环境知识，比如受感染设备通信的内部设备，使用的端口和协议，以及账户信息等。因此，由智能化带来的威胁程度也将成倍增加。
迁移学习为两类问题提供了解决路径，这也是迁移学习存在的实际价值： 一是在数据样本量小的行业中，人工智能学习、认知的问题。...比方说我们准备新开一个售卖零食的网店，由于没有数据积累，无法从售卖其他商品的网店推荐顾客来购买，这时候如果我们知道顾客买饮料的时候很有可能也会买零食，并且卖饮料的网店已经积累了大量数据，就能够利用这些数据...，结合顾客买饮料和零食的习惯建一个模型。...实现迁移学习的方法 1）样本迁移，就是我们在数据集里面找到跟目标领域相似的数据，把这个数据放大多倍，这个叫做样本迁移，通过样本来达到迁移的目的； 2）特征迁移，可以观察到有些相似的特征，然后利用这些特征...比如在语音识别中，虽然识别普通话有海量数据可供人工智能学习，但是对于方言，其样本数据量就不够。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
