有人推测ChatGPT可以做一些事情，比如创建恶意代码变体，查找恶意软件，并测试新的威胁是否可以使用基于人工智能的技术逃避检测。这还有待观察，但滥用人工智能的可能性肯定在增加。...使用ChatGPT创建恶意软件确实存在技术缺陷。这款聊天机器人只有2021年的数据。虽然它为创建恶意软件组件提供了快捷方式，但人工智能生成的组件很容易识别。...安全工具可以对它们的模式进行指纹识别——如果ChatGPT数据没有持续更新的话，这一点就更加明显了。想要从ChatGPT获取恶意软件吗ChatGPT的公共接口始终拒绝处理恶意软件请求。...Q4 在哪里可以找到用于测试和研究的勒索软件样本?...通过使攻击者更难识别和利用特定的漏洞，MTD可以帮助防止高级AI生成的恶意软件成功危及终端。
通过外部设备探查、再靠AI识别不同的电磁波，就能隔空发现“中毒设备”上的病毒踪迹。 他们表示，探测设备不和“中毒设备”相连，因此不会被病毒这类恶意软件发现。...研究人员从知名恶意软件合集社区Virusign中获取样本，共收集了4790个32位ELF ARM恶意软件样本。...；DDoS和Ransomware的识别效果也不错： 当然，除了单独的恶意软件类型以外，采用混淆技术后模型分类的效果也依旧不错。...不知道研究人员后续会不会考虑从实际落地的角度出发，将这个设备成本搞得更便宜一点。...欢迎关注智能汽车、自动驾驶的小伙伴们加入社群，与行业大咖交流、切磋，不错过智能汽车行业发展&技术进展。
有趣的是，在当时人们都认为该算法将很快导致“强”人工智能的出现。即，智能的思考能力、独立思考并可以解决那些默认编程程式外任务的人工智能。...可随后就是“弱”人工智能的时代，它可以解决一些创造性的任务，比如识别图片、预测天气、玩象棋等。...误解三 机器学习——做一次就够了 恶意软件检测和人脸识别在概念上的区别，脸永远是脸，在这方面永远也不会有什么改变。...因为通过客户端的恶意样本的平均数量要比反病毒实验室收集到的恶意样本数量小得多。客户端会因为没有收集到样本进行学习而丧失应对能力。...问题是大多数同家族的恶意软件都是由一个恶意程序修改而来的。例如 Trojan-Ransom.Win32.Shade 是一个拥有超过三万个恶意样本的家族。
更为重要的是，该对抗补丁很容易在真实世界实现攻击，在对淘宝和京东的在APP上部署的真实使用的商品识别系统的攻击测试中，能轻松攻破该系统并使其错误识别商品，对人工智能的可用性和安全性敲响了警钟。...北京航空航天大学团队的最新研究成果表明，在自动零售领域核心的自动结算（Automatic Check-Out）环节，一块不大的类似商品商标的贴纸就能严重影响计算机视觉识别系统，导致其将昂贵的商品识别为非常便宜的物品...而对于商家而言，恶意的补丁可能导致原本应该收入100元的货物只收入10元，同样蒙受巨大损失。因此对于自动结算环节，有能力使得识别模型失效的对抗补丁具有相当高的危险性，需要引起从业者的广泛关注！...难样本是指模型难以正确分类和识别的样本且在数据集中普遍存在，被模型错分的难样本显然离正确的分类区域更远，也即是更容易跨越模型的决策边界导致模型分类错误，利用难样本的特征进行攻击如同“站在巨人的肩膀上”。...作者介绍 刘艾杉，北京航空航天大学计算机学院博士三年级在读，主要研究方向为对抗样本、深度学习鲁棒性、人工智能安全性，已在ECCV、AAAI、IJCAI等国际顶级人工智能与计算机视觉会议发表多篇论文，并担任多个国际会议及期刊审稿人
有趣的是，在当时人们都认为该算法将很快导致“强”人工智能的出现。即，智能的思考能力、独立思考并可以解决那些默认编程程式外任务的人工智能。...可随后就是“弱”人工智能的时代，它可以解决一些创造性的任务，比如识别图片、预测天气、玩象棋等。...误解三：机器学习——做一次就够了 恶意软件检测和人脸识别在概念上的区别，脸永远是脸，在这方面永远也不会有什么改变。...因为通过客户端的恶意样本的平均数量要比反病毒实验室收集到的恶意样本数量小得多。客户端会因为没有收集到样本进行学习而丧失应对能力。...问题是大多数同家族的恶意软件都是由一个恶意程序修改而来的。例如 Trojan-Ransom.Win32.Shade 是一个拥有超过三万个恶意样本的家族。
几乎就在同一时间，公司安全部某运营人员的屏幕前自动生成了一条红色紧急告警，告警名称赫然写着“检测到与APT-C-28恶意服务器进行通信”，这让他瞬时心跳加速！ -这个告警是从哪儿来的?...这不仅令人疲于应对，还可能导致真正的威胁被忽视，尤其是识别极具因隐蔽性和复杂性的APT攻击，已成为安全行业面临的一大难题。...精准识别告警 在财务人员点开邮件并打开带毒附件的同时，360安全智能体就凭借独有的超越内核级探针矩阵识别出了可疑样本，随即计算、检索和关联，模拟安全专家进行类人化深度分析，将海量告警快速“去噪”，顺利筛选出这条紧急告警...用户可以一目了然知道问题出在哪里。...该攻击链显示攻击者使用了模版注入技术，投放带宏病毒的恶意文件，运行后释放恶意样本，将窃密模块注册为一个系统服务，收集系统敏感数据，并通过网络渗出数据。 攻击研判 悉数掌握了攻击过程，那么来者究竟何人？
Deep Instinct的学习方法将恶意软件样本分解为大量的小“碎片”，恶意软件从而可以进行映射，就像是基因组序列便是由成千上万更小的序列组合构成。...这些被“分解”的样本仍是二进制位字符串，用于训练神经网络进行系统地识别。在进行了数百万次计算之后，神经网络运行于一个GPU集群中，最终得出一个能够指向终点的静态神经网络结果。...Deep Instinct恶意软件识别率远超传统安全公司 Göttingen大学举行的对16000个恶意软件样本进行识别测试中，来自西门子CERT、Bit-Defender、McAfee、Trend（趋势科技...）、AVG、卡巴斯基、Sophos以及其他安全公司平均识别率为61%，而Deep Instinct对于恶意软件的识别率则高达98.86%。...一些恶意软件样本自主突变，而其功能并没有受到影响。PDF恶意软件的识别率是99.7%，可执行文件的检测率为99.2%。
此外还会通过搜集反馈回来的失败样本，以及人工打码的标定数据，来实时训练和更新识别网络，不断迭代训练进行优化，进一步提高神经网络模型的识别能力。...由于恶意用户仅占总体用户的少部分，具有异常样本“量少”和“与正常样本表现不一样”的两个特点，且不依赖概率密度，因此此异常检测模型不会导致高维输入的下溢出问题。...该模型可识别异常用户盗号、LBS/加好友、欺诈等行为。随着样本增加，恶意请求的uin、类型、发生时间通过分析端通过线下人工分析和线上打击，达到良好的检测效果。...在恶意代码识别方面，区别传统的黑白名单库、特征检测、启发式等方法机器学习的安全应用从反病毒的代码分类、恶意文件检测、恶意URL的网页代码识别等 在社工安全防范方面，区别传统的技术与业务经验分析、安全宣传...，因此恶意访问、攻击样本的不充分，导致模型训练后的检测准确率有待提高。
上述由恶意的攻击者故意设计生成的以欺骗人工智能系统的样本被称为对抗样本（adversarial samples）。...同样一只猫，上图仅能解释出一些背景，而下图则基本可以识别猫的全貌。 此外，安全专家还悄悄告诉小编，目前国际上还没有一个真正的系统可以对安全驱动的AI系统作出合理解释，我们这套技术可以说是遥遥领先。...1、漏洞研究 任何系统都有漏洞，一直以来，我们的安全策略都是“哪有漏洞补哪里”。 但是，如何确保我们可以在黑产之前发现漏洞呢？...据了解，很多安全研究员都十分钟情这套系统，他们表示，看到人工智能的分析深受启发，帮助自己拓宽了思路。 2、黑产标记 通过AI技术来标记“恶意账号”，是京东安全保障用户信息安全的重要一环。...每到大型购物节，很多黑产为了降低成本，都会注册很多恶意账号，然后用机器集中操作，实现刷票、薅羊毛等不法行为。
一份由学术界、社会团体以及行业人士所撰写的报告《人工智能的恶意使用（Malicious Use of Artificial Intelligence）》指出，任何科技都有其双面性，在大力发展AI技术的时候...在这种干扰下，原本精确的人工智能，瞬间就沦为“人工智障”。 试想如果有人恶意制造这样的对抗样本去挑战我们身边的AI系统，结果会有多可怕呢？...犯罪分子也能够随时从面部识别模型中逃脱？ 如果存在别有用心的人，将马路上的交通指示牌替换，明明是右转的标志，自动驾驶系统缺识别为直行，极其容易酿成交通事故。...未来，AI技术或将从恶意软件的自动化攻击，进化为自动化决策，即能够根据被感染系统的参数进行智能调整、自我繁殖，攻击会变得更加静默和危险。...一旦进入到受感染的系统中，恶意软件还能够安全地学习系统的环境知识，比如受感染设备通信的内部设备，使用的端口和协议，以及账户信息等。因此，由智能化带来的威胁程度也将成倍增加。
摘要 近年来，随着机器学习、深度学习等人工智能技术的迅猛发展，其在图像识别、语音识别和自然语言处理等领域已经得到大规模应用，可以为传统方法很难解决或无法适用的问题提供有效的方案，也已经成为网络安全领域中的热门研究方向...，比如将人工智能应用于恶意加密流量的检测就是一种行之有效的方法。...二、总体架构 该方法从数据包级、流级和主机级三个不同层次分别提取行为特征构建多个模型来提升对黑白样本的识别能力，一部分模型使用多维特征进行综合分析，还有一部分模型使用黑白样本区分度较大且置信度较高的单维特征缓解多维特征中潜在的过拟合和误报问题...作者也尝试了使用流级的包长分布特征进行分类器训练，考虑到恶意流量样本中也包含与正常服务的通信，但又无法识别其中的良性流，所以只将包含一条流的样本拿出来作为训练集，最终将不包含任何恶意流的流量样本分类为正常...除了统计和机器学习方法外，《基于深度学习的物联网恶意软件家族细粒度分类研究》验证了深度学习在流量识别方向也具有很好的应用前景，充分展现了人工智能赋能网络安全领域的可行性。
，并通过聚类和优化的LCS算法，有效识别恶意流量中的扫描流量特征（包含同质载荷内容），有效提升规则的准确率。...该分类器可基于决策树、循环神经网络等机器学习或深度学习模型构建，以完成在识别恶意流量等文本分类任务。...进一步，根据采样恶意流量载荷，进行字节级别的聚类，以将恶意流量中的扫描流量识别出来：扫描流量指包含同质载荷内容的流量集合，在聚类过程中将形成聚类簇。...在检测模型识别该载荷内容为webshell的情况下，使用LIME算法能够得到模型将该载荷样本识别为恶意webshell的关键词及其贡献程度的置信度值。...评估数据集（评估集）包含当前批次恶意流量载荷样本（采样率βm），以及正常样本（可与感知阶段检测模型使用相同训练数据集，采样率βn-his），以及与当前批次恶意流量在同一时间窗口内的正常样本（采样率βn-cur
《当人工智能遇上安全》系列博客将详细介绍人工智能与安全相关的论文、实践，并分享各种案例，涉及恶意代码检测、恶意请求识别、入侵检测、对抗样本等等。只想更好地帮助初学者，更加成体系的分享新知识。...浙大团队分享AI对抗样本技术 [当人工智能遇上安全] 2.清华张超老师 GreyOne和Fuzzing漏洞挖掘各阶段进展总结 [当人工智能遇上安全] 3.安全领域中的机器学习及机器学习恶意请求识别案例分享...(3)性能评估 下面是衡量机器学习模型的性能指标，首先是一幅混淆矩阵的图表，真实类别中1代表恶意样本，0代表非恶意样本，预测类别也包括1和0，然后结果分为： TP：本身是恶意样本，并且预测识别为恶意样本...FP：本身是恶意样本，然而预测识别为非恶意样本，这是误分类的情况 FN：本身是非恶意样本，然而预测识别为恶意样本，这是误分类的情况 TN：本身是非恶意样本，并且预测识别为非恶意样本 然后是Accuracy...其中，TPRate表示分类器识别出正样本数量占所有正样本数量的比值，FPRate表示负样本数量占所有负样本数量的比值。
《当人工智能遇上安全》系列博客将详细介绍人工智能与安全相关的论文、实践，并分享各种案例，涉及恶意代码检测、恶意请求识别、入侵检测、对抗样本等等。只想更好地帮助初学者，更加成体系的分享新知识。...5.完整代码 四.总结 前文推荐： [当人工智能遇上安全] 1.人工智能真的安全吗？...浙大团队分享AI对抗样本技术 [当人工智能遇上安全] 2.清华张超老师 GreyOne和Fuzzing漏洞挖掘各阶段进展总结 [当人工智能遇上安全] 3.安全领域中的机器学习及机器学习恶意请求识别案例分享...该模型可识别异常用户盗号、LBS/加好友、欺诈等行为。随着样本增加，恶意请求的uin、类型、发生时间通过分析端通过线下人工分析和线上打击，达到良好的检测效果。...一步一个脚印前行，接下来希望通过深度学习实现更多的恶意代码识别和对抗样本。
曾经这些系统需要在服务器上运行，你需要有网络连接才能使用，现在电脑变得越来越便宜，这样的系统也已经可以直接在手机上运行。...所以欧洲人不使用语音识别的原因是他们知道大公司会把所有东西都存储下来，然后把这些语音作为改进语音识别系统的训练样本。...比如有的人讲话有口音，但是当前的 LSTM 网络没有在足够多的带口音的样本上训练，语音识别的效果不好，那么企业就会把这些语音记录下来，研究正确的识别结果应该是什么样的，并让 LSTM 学习。...但今天手机很便宜了，今天很穷的人买到的手机都会比当年那个人的手机更好。AI 也是一样的，也会变得更便宜，让穷的人也收益。...点击阅读原文查看世界人工智能大会回放
： 这个活动主要就是上传三种类型的样本：暗链、恶意URL、WebsShell通信样本，系统对样本进行判定并给予一定的分值积分，积分还可以用来抽奖。...恶意URL的提交还是很方便的，网上可找到的现成资源也很多，提交的人也很多，我猜目前大部分提交的样本都是这一类的。...样本对抗研究 在提交数据的时候，我也很好奇这个智能机器人的识别模型原理，耐不住手痒，自然是要研究一番的。 我尝试对这个智能识别模型做攻击，类似于样本对抗的方式对模型做欺骗。...但这样做了两天后我就发现，经过这样处理的样本智力分非常低，或者被提示样本重复。应该是识别模型被优化了或是真的学习到了攻击模式。...第二点，要多提交复杂不易被识别的样本才行。
在物联网(IoT)、宽带通信、更便宜的云存储和计算能力的帮助下，每个组织、公司和政府部门每时每刻都在产生关于一切事物的数据。...惠普实验室高级研究员Miranda Mowbray表示：“存在能够识别相似数据项类别的机器学习算法，以及可以识别非常特别的数据项的其他机器学习算法。...例如，这两种类型的算法都可以被用于处理海量的[域名系统](DNS)数据，以识别企业网络中受恶意软件感染的计算机。...你可以查找那些与被特定恶意软件感染的计算机有相似DNS行为的计算机；你也可以查找那些具有非同寻常的行为，并与受到基于已知技术的未知恶意软件攻击相吻合的计算机。”...一些安全供应商正在利用人工智能来应对网络威胁和攻击。与传统的网络安全解决方案依赖于对恶意软件的定义和静态规则不同，现在已经出现了一些基于行为分析的解决方案。
平台生成的对抗样本「噪音」能够极大干扰两大主流人脸比对平台的识别结果。...「对抗样本」成为「AI 病毒」 我们测试了国内几家科技巨头的人脸识别模型，对抗样本的「伪装」效果均比较明显。...瑞莱智慧的研发人员告诉我们：这种对抗样本同样也可以使亚马逊、微软等人脸识别平台的服务出现严重的识别错误。 在人脸解锁手机和支付系统如此普遍的今天，对抗样本方法的进步让我们开始担心财产与隐私安全。...对抗样本可以导致人工智能系统被攻击和恶意侵扰，产生与预期不符乃至危害性结果，对于人脸识别、自动驾驶等特定领域，可能造成难以挽回的人员和财产损失，对抗样本已经成为人工智能系统可能面临的新型「病毒」。...另一方面，对抗样本等算法漏洞检测存在较高的技术壁垒，目前市面上缺乏自动化检测工具，而大部分企业与组织不具备该领域的专业技能来妥善应对日益增长的恶意攻击。
《当人工智能遇上安全》系列博客将详细介绍人工智能与安全相关的论文、实践，并分享各种案例，涉及恶意代码检测、恶意请求识别、入侵检测、对抗样本等等。只想更好地帮助初学者，更加成体系的分享新知识。...URL malicious-URLs 在Github上面一个 使用机器学习去检测恶意URL的项目 ，里面有一个训练集，有做标记是正常的URL还是恶意的URL 内容类型: 文本样本 是否特征化：否 使用范围...内容类型：图像样本 使用范围：图像分类、恶意家族分类 推荐理由：个人感觉这是图像分类实验的基础，恶意样本转换灰度图进行恶意家族分类实验也都可以基于此实验拓展 下载地址：https://github.com...内容类型：图像样本 使用范围：图像分类、恶意家族分类 推荐理由：个人感觉这是图像分类实验的基础，恶意样本转换灰度图进行恶意家族分类实验也都可以基于此实验拓展。...发布机构：麻省理工学院 内容类型：图像样本 数据大小：31.2GB 使用范围：图像分类、自然灾害识别 推荐理由：个人感觉该数据集对于对抗样本、AI和安全结合的案例有帮助 下载地址：https://hyper.ai
00 导语 构建恶意域名检测引擎，对海量域名进行自动化检测并识别出恶意域名，让威胁情报的检测和运营变得更智能、更高效，以缓解威胁情报分析师分面对海量威胁数据的分析压力。...其中，恶意域名情报是威胁情报的重要组成部分，包括恶意域名检测（Malicious Domains Detection）[1]、域名生成算法识别（DGA Recognition）[2]等。...本文所述的恶意域名检测引擎 (Malicious Domain Detection Engine, MDDE) ，实现了对恶意域名的自动检测，并为威胁情报智能化检测和运营提高了效率。...4.png 域名字符特征 这一类特征源于DGA的识别，目前，由DGA构造的域名一般为恶意域名。此外，根据具体黑域名特点，构造了如子域名是否为数字这样的特征。...但需要注意的是，即使现有特征数据的多样性在业界无出其右，但对于恶意域名检测这样一个难度较高的机器学习任务而言，依然需要更全备的数据信息和知识，才有可能实现域名检测的真正智能化、自动化。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
即时通信 IM
ICP备案
对象存储
实时音视频
