《当人工智能遇上安全》系列博客将详细介绍人工智能与安全相关的论文、实践，并分享各种案例，涉及恶意代码检测、恶意请求识别、入侵检测、对抗样本等等。只想更好地帮助初学者，更加成体系的分享新知识。该系列文章会更加聚焦，更加学术，更加深入，也是作者的慢慢成长史。换专业确实挺难的，系统安全也是块硬骨头，但我也试试，看看自己未来四年究竟能将它学到什么程度，漫漫长征路，偏向虎山行。享受过程，一起加油~
当我们在享受AI技术带来的便捷与高效的同时，是否考虑过技术漏洞带来的严重后果？试想如果有人恶意利用AI技术去干扰IT系统的正常工作，结果会有多可怕呢？
一、引言 随着人工智能(artificialintelligence, 简称AI)的技术突破，现今的计算技术可从大数据平台中挖掘出有价值的信息，从而为人们在决策制定、任务执行方面提供建议对策与技术支持，将专业分析人员从复杂度高且耗时巨大的工作中释放。 企业与用户每天面临各种安全威胁，无论是钓鱼邮件中的恶意链接还是恶意软件的非法操作等，日新月异的攻击手段给用户安全带来了极大的困扰，造成了严重的安全威胁。由于现有的检测技术与防御系统已渐渐无法应对多变的挑战，而以机器学习(machinelearning,简称ML
网络安全领域的独特对抗属性给人工智能应用落地带来了重重困难，但我们并不认为这最终会阻碍人工智能成为网络安全利器。我们尝试分析了人工智能在网络安全应用里的潜在困难，并试着解决它们。
来自 | FreeBuf.COM · 参考来源 | Securelist · 编译 | Avenger 机器学习已经渗透到了人类活动的所有领域，它不仅在语音识别、手势识别、手写识别和图像识别上起着关键的作用，这些领域如果没有机器学习在现代医学、银行、生物信息和存在任何质量控制的行业中都是一个灾难。甚至机器没有学习和生成的能力，连天气预报都无法做出。但是此时我想澄清一些问题——关于机器学习在网络安全领域的使用中存在的一些误解。 误解一 网络安全中的机器学习是新鲜玩意 由于某
机器学习已经渗透到了人类活动的所有领域，它不仅在语音识别、手势识别、手写识别和图像识别上起着关键的作用，这些领域如果没有机器学习在现代医学、银行、生物信息和存在任何质量控制的行业中都是一个灾难。 甚至机器没有学习和生成的能力，连天气预报都无法做出。但是此时我想澄清一些问题：关于机器学习在网络安全领域的使用中存在的一些误解。 误解一：网络安全中的机器学习是新鲜玩意 由于某种原因，在网络安全中的人工智能技术变成了过去流行的东西。如果你没有长期关注过这个主题，你可能会认为这是新的东西。 一些场景：第一个机器学习算
上月底，权威科学杂志Nature发表了一篇关于谷歌人工智能程序AlphaGo击败欧洲围棋冠军的文章，其中介绍了AlphaGo程序的细节，它实际上是一个结合了深度学习与树搜索（tree-search）的程序。虽然，对弈发生于去年十月，但还是在网络及朋友圈引起不小轰动：人类智力最后的骄傲崩塌了吗？ 在对问题进行肯定或否定的回答前，我们先来了简单了解一下这些概念。 FreeBuf百科：什么是人工智能、机器学习和深度学习 图片来源：《从机器学习谈起》 人工智能 AI 作为计算机学科的一个分支，按字面理解，
打开文章迎面而来的是一堆用来浪费读者时间的文字，介绍了加密流量的趋势和作用。同时还放了一幅红红的大图，图上面一把大锁十分醒目，“要加密就买锁，安全可靠还防撬！”。看在是安全牛专业推荐，耐着心思继续看下去。
该系列文章将系统整理和深入学习系统安全、逆向分析和恶意代码检测，文章会更加聚焦，更加系统，更加深入，也是作者的慢慢成长史。漫漫长征路，偏向虎山行。享受过程，一起加油~
网络安全领域中的加密流量的检测是一个老生常谈的话题，随着人工智能的发展，给同样的问题，带来了不同的解决思路。
中国互联网黑产的缩影 诈骗、“羊毛党”等场景离我们越来越近，据腾讯的统计，该行业超过100万从业人员、超1000万身份证流转、数亿网民数据泄漏、百亿级恶意链接、超1000亿产值。如此成熟的规模已给不少企业的业务安全造成极大困扰。8月30日，在腾讯安全国际技术峰会（TenSec）上，腾讯云安全总监周斌发表了名为《大数据下的黑产画像与反欺诈能力建设》的演讲， 分享了一些腾讯云在业务安全层面的对抗工作，详细介绍了基于 AI 在安全上的应用对抗，为企业业务安全提供一盏明灯。 📷 △腾讯云安全总监周斌现
免责声明：本公众号发布的文章均转载自互联网或经作者投稿授权的原创，文末已注明出处，其内容和图片版权归原网站或作者本人所有，并不代表安全+的观点，若有无意侵权或转载不当之处请联系我们处理，谢谢合作！
机器之心整理 演讲者：Ian Goodfellow 参与：吴攀、李亚洲 面向开发者的世界上最大的人工智能主题在线演讲与对话大会 AI WITH THE BEST（AIWTB）于 2017 年 4 月 29-30 日在 AIWTB 官网上通过在线直播的方式举办。作为第三届 AI WITH THE BEST 华语社区独家合作伙伴，今年线上大会机器之心有免费赠门票资格。在此前的问题征集赠票活动中，我们从读者提问中选出了 1 个高质量问题并赠送了参会票。 在本文中，机器之心对这次对话大会上 Ian Goodfell
近年来，随着机器学习、深度学习等人工智能技术的迅猛发展，其在图像识别、语音识别和自然语言处理等领域已经得到大规模应用，可以为传统方法很难解决或无法适用的问题提供有效的方案，也已经成为网络安全领域中的热门研究方向，比如将人工智能应用于恶意加密流量的检测就是一种行之有效的方法。
“授人以鱼不如授人以渔”，为了提升黑盒模型的透明度，提升模型在高度动态网络环境下的鲁棒性、可维护性，我们通过无监督学习、可解释人工智能（eXplainableAI, XAI）、字符序列相似性分析等方法，实现了自动化的攻击特征提取工具——XAIGen。目前，XAIGen项目已经开源，项目地址为https://github.com/oasiszrz/XAIGen，项目开源信息可见前文《XAIGen：自动化攻击特征提取的项目开源啦》。
前一篇从个人角度介绍英文论文实验评估（Evaluation）的数据集、评价指标和环境设置如何撰写。这篇文章将带来USENIXSec21恶意代码分析的经典论文——DeepReflect，它通过二进制重构发现恶意功能，来自于佐治亚理工学院。希望这篇文章对您有所帮助，这些大佬是真的值得我们去学习，献上小弟的膝盖~fighting！同时文章末尾有我的论文感受和精句摘要，欢迎各位老师和博友批评指正。
导语：通过一台便携信号嗅探设备，便能轻松远程截获到共享单车的开锁密码，在分秒间将共享单车变成无锁单车；在商场扫码下载应用，可能会导致偷跑流量或者信息泄露；在网上交易时通过扫描二维码的方式付款，稍有不慎就会直接导致金钱损失……，如此漏洞与陷阱的交织，带来的是一道移动安全被提上最紧急日程的时代命题。
过年前网站推出一个叫“网藤杯智能安全机器人养成计划”的活动，刚开始以为是一个养蛙类型的活动，研究过后发现，这是一个上传数据拿奖品的活动，看着礼品还挺诱人的，作为薅羊毛专业户，我必须吐槽一把了…… 看看
本期对话清华大学人工智能研究院副院长、清华智能技术与系统国家重点实验室主任，北京智源人工智能研究院首席科学家朱军，解读人工智能安全问题。
ChatGPT是一个强大的人工智能聊天机器人，它使用大量的数据收集和自然语言处理与用户“交谈”，感觉像是和正常的人类对话。它的易用性和相对较高的准确性让用户可以利用它做任何事情，从解决复杂的数学问题，到写论文，创建软件和编写代码，以及制作令人着迷的视觉艺术。
4 月 7 日，来自清华的 RealAI（瑞莱智慧）发布了 RealSafe 人工智能安全平台，随之推出的测试结果令人惊讶：通过平台对微软、亚马逊云服务的人脸比对演示平台进行测试显示，基于 RealSafe 平台生成的对抗样本「噪音」能够极大干扰两大主流人脸比对平台的识别结果。
人工智能算法在现实世界中的落地，从来都离不开两个研究范畴：一是模型性能强大可用，二是设计逻辑安全可信。 访谈｜李梅、刘冰一 作者｜李梅 编辑｜陈彩娴 2013 年 4 月 23 日的午后一点，美国各大交易所的平静被骤然打破，办公室里一台台电话响个不停，同时夹杂着工作人员急躁的咆哮声，惊恐与不安的情绪四处窜开。 华尔街的金融精英们正在经历着他们所能想象到的最可怕的危机： 短短 5 秒内，标普市值就被抹去了 1365 亿美元！ 股市突然遭遇如此疯狂的大跳水，其直接的导火索是美联社官方推特账户发出的一条仅包含 1
知识图谱（KnowledgeGraph）是谷歌在2012年提出的，其旨在实现更智能的搜索引擎，并且于2013年以后开始在学术界和业界普及。目前，随着智能信息服务应用的不断发展，知识图谱已被广泛应用于智能搜索、智能问答、个性化推荐、情报分析、反欺诈等领域。随着知识图谱技术不断发展，现在已不仅仅局限于语义搜索相关应用，还成为了解决抽象知识与底层数据之间语义鸿沟问题的主要方法。
人工智能的飞速发展正在将世界带入一个全新的维度，但这同时也将网络世界的正邪对抗推入下一个战场。 美国当地时间8月10日，由 GeekPwn 主办的 CAAD Village 登陆世界顶级极客大会 DEF CON。腾讯安全云鼎实验室在 CAAD Village 上带来前沿议题分享，云鼎实验室安全专家张壮、史博以基于卷积神经网络的多形态恶意软件检测为例，分享了安全厂商应用人工智能之后对抗病毒免杀技术的效果；同时还站在攻击方的视角，介绍了恶意软件使用了生成式对抗网络之后，可绕过应用机器学习检测模型的案例。为人工
由百度的paddle一个基于 PaddlePaddle 的高效易用的图学习框架
当谈论网络安全应急管理和技术实践时，有一些更深入的技术层面需要考虑。以下是一篇偏技术性的文章，涵盖了一些网络安全应急管理和技术实践的具体方案和方法。
当前，诸如图像识别、语音识别、自然语言翻译等AI技术已经在移动互联网、新型产业甚至众多传统产业领域得到普遍部署和广泛应用。以机器学习、深度学习为核心的第二次人工智能的加速成熟，终于迎来了人工智能技术的高光时刻。
构建恶意域名检测引擎，对海量域名进行自动化检测并识别出恶意域名，让威胁情报的检测和运营变得更智能、更高效，以缓解威胁情报分析师分面对海量威胁数据的分析压力。
在与我们生活息息相关的零售领域，人工智能技术的到来极大地便利化了人们的零售购物方式。人们不在需要排队等待售货员人工扫码结账，只需要平铺所有商品，基于计算机视觉的智能零售系统便可以迅速扫描计算价格，这引起零售行业降本增效的新浪潮。
据报道，在世界范围内，每年因恶意软件攻击造成的损失超过100亿美元，并且还在不断增加。尽管网络安全机制在不断的升级，但恶意软件层出不穷，仍然是黑客攻击的利器。
前文分享了WannaCry勒索病毒，主要通过IDA和OD逆向分析蠕虫传播部分，详细讲解蠕虫是如何感染传播的。这篇文章将分享来自深信服老师的《外部威胁防护和勒索病毒对抗》，带领大家看看知名安全厂商的威胁防护措施，包括网络安全面临的挑战、如何有效的应对挑战、深信服安全建设之道等。基础性文章，希望对您有所帮助，如果存在侵权或不足之处，还望告知，加油！
早在今年年初，国内外安全厂商已监测到利用开放了ADB调试接口的安卓设备进行传播的挖矿蠕虫，近期绿盟伏影实验室威胁被动感知系统再次捕获到利用ADB接口进行传播的具有DDoS功能的僵尸网络。经过样本分析人员研究发现，该僵尸网络家族是Mirai的又一新变种（作者命名为Darks），并且与年初的挖矿样本扫描行为部分具有高度相似性。不同的是年初的样本功能为挖矿，而当前样本功能为DDoS，推测与最近一段时间虚拟货币行业不景气有关。
// 一时间，ChatGPT成为街头巷尾热议的话题，自2016年，AlphGo击败李世石而掀起的AI浪潮后，AI行业沉寂良久，ChatGPT这一现象级故事的出现，使这个行业再度以高光的姿态回到公众视野。自ChatGPT推出以来，关于人工智能是否会使网络威胁格局向有利于网络攻击者或防御者的方向发展一直存在着激烈的讨论，但无疑热潮中的ChatGPT将在2023年对网络威胁格局形成产生新的影响。 ChatGPT全名为Chat Generative Pre-Trained Transformer，是一种专注于
当我们在谈论人工智能的时候，我们究竟在谈论什么？是“机器人超越人类阅读水平，令数百万人面临失业风向“还是“计算机的阅读能力正在赶超人类？”
随着深度学习的发展，各行各业都在考虑将相关新技术引入业务场景中，网络安全领域也不例外。近一段时间以来，很多网络安全公司都尝试用神经网络去检测病毒、发现程序后门等，而一些数据公司也使用了神经网络发现和检测恶意爬虫程序。但是，神经网络真的在软件层面上是安全吗？今日的 GitHub 趋势榜上有一个「骇入神经网络指南」项目。作者提供了一系列教学资料和代码，告诉了我们黑客会怎样对神经网络发起攻击。和对抗样本攻击不同，这些攻击都是从软件层面进行的，和使用对抗样本混淆模型能力的攻击不同。
发布者：全栈程序员栈长，转载请注明出处：https://javaforall.cn/130678.html原文链接：https://javaforall.cn
互联网金融公司排名分别是蚂蚁金服、陆金所、京东金融、苏宁金融、百度金融、腾讯理财通、宜信、钱大掌柜、万达金融和网易理财。
中国计算机学会今天在北京主办了 RSA2017热点研讨会，RSA作为全球信息安全峰会，一直备受国内关注，会议是快速了解全球安全趋势的风向标，更是影响安全产业转型与持续发展的重要会议平台。腾讯云安全的技术专家参会后也对会上热点进行了总结，特别关注了云安全这个方向。本文是参会同事在内部的一个分享，综合整理，主要从云安全的重要性在迅速提升、关于大数据AI的应用案例、国外公司如何使用大数据、AI来做安全、以及一些大数据、AI在未来发展的总结几大方面进行解读。 此文更适合你收藏后仔细品读 ^_^ 开篇 本届大会以“P
AI 科技评论按：随着人工智能研究的不断发展，由机器学习模型在背后提供支持的功能越来越多地开始商业化，最终用户的生活里机器学习能造成的影响也越来越大。这时候，机器学习的安全和隐私问题也就越来越明显，谁
选自OpenAI 机器之心编译 日前，OpenAI 联合牛津大学、剑桥大学等多家机构发布了一份报告，该报告调查了恶意使用人工智能的潜在安全威胁图景，并提出了多种预测、预防和缓解威胁的方式。报告分析了 AI 在数字安全、物理安全和政治安全领域对威胁图景的影响，并向 AI 研究者和其他利益相关者提出了四种高级推荐做法。报告还提出了多个有前景的未来研究领域，可扩展防御的范围，或者减弱攻击的有效性和实施可能。最后，报告讨论了攻击者和防御者的长期平衡，但并未解决该问题。机器之心编译了该报告的部分内容，包括执行摘要和第
机器学习是一门人工智能的科学，能通过经验自动改进的计算机算法的研究。 机器学习是一个多学科交叉的领域，会涉及到计算机、信息学、数学、统计学、神经科学等。 机器学习是大数据的核心技术
2018年全国硕士研究生招生考试预报名的第一天，成都大学的一名大四女生，在网上报名时，竟出现了“别考”字样的验证码，同时在验证码上边显示一行红字：您输入的用户名或密码有误。专门负责全国研究生报名的“中国研究生招生信息网”相关负责人回应说，验证码出现“别考”字样纯属巧合。
8月7日-8月9日，2020年全球人工智能和机器人峰会（简称“CCF-GAIR 2020”）在深圳如期举办！CCF-GAIR由中国计算机学会（CCF）主办，香港中文大学（深圳）、雷锋网联合承办，鹏城实验室、深圳市人工智能与机器人研究院协办，以“AI新基建 产业新机遇”为大会主题，致力打造国内人工智能和机器人领域规模最大、规格最高、跨界最广的学术、工业和投资领域盛会。
针对adversarial machine learning这个问题而言，AI出身的小伙伴们可能认为，这样的工作应该只能看做模型的鲁棒性或泛化能力不够强，但是从安全角度考虑，其实所谓的“安全”概念，是从模型的设计者角度出发，考虑到模型的行为超出意料之外，让模型设计者手足无措，因此我们认为是可能存在“潜在威胁”，因而将这类行为归类为安全问题。特此解释。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
