腾讯云开发者社区-腾讯云

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

绿盟科技研究通讯

专栏作者

516

文章

642326

阅读量

88

订阅数

【公益译文】对抗性机器学习与网络安全：风险、挑战和法律影响

网络安全漏洞模型系统机器学习

乔治城大学安全与新兴技术中心（CSET）和斯坦福网络政策中心地缘政治、技术和治理项目曾召集过一次专家研讨会，探究人工智能（AI）系统中的漏洞与传统类型的软件漏洞之间的关系。讨论的主题包括在标准网络安全流程下可以在多大程度上解决AI漏洞、目前阻碍准确共享AI漏洞信息的障碍、针对AI系统的对抗性攻击相关的法律问题，以及政府支持改进AI漏洞管理和缓解的领域。

绿盟科技研究通讯

2024-03-13

740

【顶刊论文分享】如何实现机器学习模型的敏感数据遗忘？

机器学习函数论文模型数据

随着机器学习方法越来越多的应用于网络安全领域的数据分析中，如果模型无意中从训练数据中捕获了敏感信息，则在一定程度上存在隐私泄露的风险。由于训练数据会长期存在于模型参数中，如果向模型输入一些具有诱导性质的数据，则有可能直接输出训练样本[1]。同时，当敏感数据意外进入模型训练，从数据保护的角度出发，如何使模型遗忘这些敏感数据或特征并保证模型效果成了亟待解决的问题。

绿盟科技研究通讯

2023-08-31

2720

部署机器学习方案之困（下）

机器学习机器学习平台神经网络人工智能深度学习

近年来，机器学习无论是作为学术研究领域还是实际商业问题的解决方案，都受到了越来越多的关注。然而，就像其他领域一样，在学术环境中起作用的研究和实际系统的要求之间往往存在着显著差异，所以在生产系统中部署机器学习模型可能会带来许多问题。

绿盟科技研究通讯

2023-02-22

3300

部署机器学习方案之困（上）

强化学习机器学习神经网络人工智能数据分析

近年来，机器学习无论是作为学术研究领域还是实际商业问题的解决方案，都受到了越来越多的关注。然而，就像其他领域一样，在学术环境中起作用的研究和实际系统的要求之间往往存在着显著差异，所以在生产系统中部署机器学习模型可能会带来许多问题。

绿盟科技研究通讯

2023-02-22

3810

论文分享｜基于被动DNS流量分析的大规模IoT设备识别系统

dns 物联网数据挖掘机器学习神经网络

随着智能家居的普及，物联网设备的数量也在增加。但是，由于物联网设备的开发商和供应商往往会忽略基本的安全机制，导致越来越多大规模网络攻击事件都与物联网设备有关。这不仅危及用户的安全，也给互联网带来了极大的安全威胁。目前，网络空间测绘系统使用主动探测技术来扫描整个IPv4空间，并通过获取banner或其他指纹来识别网络服务和暴露的物联网设备。然而，这种主动探测技术无法识别隐藏在NAT防火墙设备之后的IoT设备，同时，当IoT设备被分配到IPv6地址时，主动探测也面临挑战。

绿盟科技研究通讯

2023-02-22

8030

2022年新兴技术预测分析（一）

编程算法自动化机器学习神经网络深度学习

近期Gartner公司发布了《2022年新兴技术成熟度曲线》[1]。关于2022年新兴技术趋势，如图1所示，Gartner确定了25种需要了解的新兴技术，主要围绕三个主题：一是发展/扩展沉浸式体验，主要包括去中心化身份(DID)、数字人类、非同质化代币(NFT)等关键技术；二是加速人工智能自动化，主要包括因果人工智能(AI)、基础模型、机器学习代码生成工具等关键技术；三是优化技术人员交付，主要包括增强型敏捷金融(FinOps)、网络安全网格架构(CSMA)、动态风险治理(DRG)等关键技术。Gartner公司分析师表示，这些技术都处于早期阶段，其中有些处于萌芽阶段，未来将如何发展仍存在很大不确定性。本文从三个主题出发介绍曲线中的相关技术，并结合曲线给出预测分析。

绿盟科技研究通讯

2022-11-14

5630

【顶会论文分析】模型劫持攻击

网络安全安全机器学习神经网络深度学习

随着机器学习模型在各个领域的应用任务变得复杂，模型的训练对计算能力和数据集的质量提出了更高的需求，这也阻碍了个人用户自己训练大型复杂的神经网络。在这种困境下，出现了以联邦学习为代表的新的训练模式。

绿盟科技研究通讯

2022-11-14

8560

安全领域中使用机器学习的注意事项

机器学习神经网络深度学习人工智能腾讯云测试服务

随着计算机计算能力的提高和大量数据集的公开，机器学习算法在许多不同领域取得了重大突破。这一发展影响了计算机安全，催生了一系列基于学习的安全系统，例如恶意软件检测、漏洞发现和二进制代码分析等。尽管机器学习算法潜力巨大，但其在安全领域中的使用却很微妙，容易出现缺陷，这些缺陷会破坏算法的性能，并使基于学习的系统可能不适合具体的安全任务和工具的实际部署。这也导致了大量安全人士看衰机器学习在安全领域的发展前景。

绿盟科技研究通讯

2022-11-14

3540

设备指纹技术介绍与综述（二）

编程算法聚类算法机器学习神经网络深度学习

在设备指纹技术介绍与综述（一）一文中，我们了解了设备指纹的用途、覆盖设备范围，以及部分外部行为数据的采集方式。在设备种类与应用环境极为丰富的当下，设备指纹技术不论在用途、研究范围、采集方式，亦或评估手段下都取得了长足的进展。本文将继续介绍目前设备指纹技术研究主要关注的一些内部行为数据与相关采集方式，并介绍几种主流的设备指纹评估方式。

绿盟科技研究通讯

2022-11-14

9220

基于机器学习的自动化网络流量分析

特征工程机器学习神经网络深度学习人工智能

目前机器学习广泛应用于网络流量分析任务，特征提取、模型选择、参数调优等众多因素决定着模型的性能，每当面对不同的网络流量或新的任务，就需要研究人员重新开发模型，这个反复性的过程往往是费时费力的。因此有必要为不同网络流量创建一个通用的表示，可以用于各种不同的模型，跨越广泛的问题类，并将整个建模过程自动化。本文关注通用的自动化网络流量分析问题，致力于使研究人员将更多的精力用于优化模型和特征上，并有更多的时间在实践中解释和部署最佳模型。

绿盟科技研究通讯

2022-04-14

1.4K0

流量全密化趋势下的检测困境和思考

网络安全机器学习神经网络深度学习

随着加密技术的广泛应用以及新型网络技术的不断更迭，网络结构日趋复杂，加密流量呈现爆炸式增长，尤其随着TLS1.3等加密协议的演进和推广，全加密时代悄然来临。加密技术在保护用户隐私的同时也深刻改变了网络安全威胁形势，让恶意服务有机可乘，而传统的检测技术路线在面对恶意加密流量时往往无能为力。在此背景下，基于加密流量的检测与防御势在必行。

绿盟科技研究通讯

2022-03-11

1.1K0

基于机器学习的反欺诈研究

机器学习神经网络深度学习人工智能图像识别

在互联网技术蓬勃发展的当下，许多行业开始了数字化转型。然而，在给用户带来便利的同时，互联网一度也成为了不法分子进行欺诈的温床。一方面，海量用户在互联网上或多或少地留下了数据，不法分子得以利用这些信息对用户实习精确诈骗，提高诈骗成功率；另一方面，银行、电商等线上财务交易业务也为不法分子有了更多的欺诈途径。

绿盟科技研究通讯

2022-03-11

2K0

面向开放环境的机器学习—属性变化

机器学习神经网络深度学习人工智能编程算法

机器学习在很多领域展现出其独特的优势，在过去的很多年里，我们关注更多的是封闭环境下的机器学习，即静态地收集数据并训练模型，但是在现实生活中越来越多地遇到开放环境下的任务，比如数据分布、样本类别、样本属性、评价目标等都会发生变化，这就需要模型具有较好的鲁棒性。本文重点关注流式数据中样本属性变化的问题，并给读者分享一种可行的解决方法。

绿盟科技研究通讯

2022-01-04

7320

联邦学习技术发展研究及政策建议——《网络安全技术和产业动态》总第14期

联邦学习迁移学习机器学习隐私计算开源

联邦学习（Federated Learning，FL）又名为联邦机器学习（Federated Machine Learning），是一种具有隐私和敏感数据保护能力的分布式机器学习技术。在联邦学习技术的应用中，有两个及以上的参与方，各个参与方之间不直接共享原始数据，而是通过安全的算法协议实现“数据不出本地域”的联合机器学习建模、训练以及模型预测。

绿盟科技研究通讯

2021-11-10

8380

还在为告警筛选而发愁吗？

python 机器学习神经网络深度学习

海量告警筛选问题困扰安全运维值守工作已非一朝一夕，行业内使用各种机器学习方法进行告警评估和筛选的尝试也已经数不胜数。

绿盟科技研究通讯

2021-10-15

5840

打好人工智能战争 —— 未来智能化战争之作战构想（上）

机器学习神经网络深度学习人工智能数据湖

这是一个快速变化的时代，颠覆性技术不断出现，特别是在人工智能（AI）领域。虽然人工智能技术是由商业部门开发，主要用于商业用途，但其在军事领域具有明显潜力，因而世界各地的武装部队对尚处于雏形的智能化国防体系进行了实验，以便充分利用这些系统，完成战时与平时任务。

绿盟科技研究通讯

2021-09-27

1.3K0

【AI安全专题】谁偷了我的模型：机器学习模型水印技术介绍与分析

机器学习神经网络深度学习人工智能

近年来，人工智能（Artificial Intelligence）技术在生物医疗、金融风控、自动驾驶、网络安全等许多领域被广泛应用。基于数据驱动的机器学习技术在识别与分类等任务上已经具备稳定且精确的效果，在许多具体任务中，基于机器学习技术的方案不光能取得比传统技术方案更好的效果，还可以完成一些传统技术难以完成的任务。训练一个机器学习模型包含了大量工作，往往需要经年累月的投入才能得到高效稳定的成品模型，然而窃取和拷贝他人训练好的机器模型却十分容易[1][2]。为了保护机器学习模型开发者的知识产权，模型水印技术应运而生。

绿盟科技研究通讯

2021-09-27

3.2K0

RSA创新沙盒盘点 |Cape Privacy——基于加密机器学习的多方数据协作与隐私保护方案

机器学习联邦学习神经网络深度学习人工智能

RSAConference2021将于旧金山时间5月17日召开，这将是RSA大会有史以来第一次采用网络虚拟会议的形式举办。大会的Innovation Sandbox（沙盒）大赛作为“安全圈的奥斯卡”，每年都备受瞩目，成为全球网络安全行业技术创新和投资的风向标。

绿盟科技研究通讯

2021-06-10

8380

关于AutoML应用于网络威胁的思考

自动化神经网络机器学习深度学习人工智能

威胁检测是网络安全领域一个重要方向。如今在网络安全公司中已经开展了很多利用机器学习、深度学习方法进行威胁检测的研究。不少安全研究人员利用专家知识结合机器学习将网络中的威胁通过模型算法检测出来。但是这个过程不仅仅需要巨大的算力，而且需要引入过多的人力才能够找到适合场景的模型算法，后期甚至花大量时间进行参数优化。花费大量精力来进行模型和算法的选择以及训练对于需求不断增长的业务场景来说往往是不够的，因此一种自动化进行机器学习的研究方向应运而生。

绿盟科技研究通讯

2021-03-16

5250

模型又不适用了？ --论安全应用的概念漂移样本检测

编程算法数据分析网络安全机器学习监督学习

机器学习被越来越多地应用到安全场景中，如：恶意邮件检测、入侵检测、WAF等，但是其现实效果饱受诟病，鲁棒性问题往往无法解决，如：A环境下训练的模型换到B环境中不适用，T时刻训练的模型在T1时刻不适用，这导致更换环境时需要标注大量样本，并且模型要定期更新。这种现象在机器学习领域被称之为“概念漂移”，指的是一个模型要去预测的一个目标变量随着时间的推移发生改变的现象，这种现象在安全领域这种高度动态的场景中尤其明显。本文介绍一种检测概念漂移样本、并对结果提供可解释性的方法，该方法来自2021年Usenix Seurity的一篇论文[1]。

绿盟科技研究通讯

2020-12-30

1.7K0

点击加载更多

社区活动

腾讯技术创作狂欢月

“码”上创作 21 天，分 10000 元奖品池！

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·千货材料·成员作品最新动态