人工智能技术自成熟以来就被网络犯罪分子盯上了,作为一种强大技术手段,威胁攻击者可以利用其构造出更复杂的网络攻击策略,从而规避受害者的网络防御检测机制,窃密敏感数据信息。
【概要】哈佛大学贝尔弗科学与国际事务中心网络安全项目主任Michael Sulmeyer等发表文章称,人工智能可提升网络空间适应能力。
人工智能在网络安全中的应用主要可分为五个核心功能,分别是“识别、保护、检测、响应和恢复”。从预测安全攻击到更复杂的主动寻找新安全威胁和反击机制,这些功能体现在应对网络安全攻击生命周期的不同环节。
【概要】新美国安全中心的研究人员撰文分析了美国“国家防御授权法案”中有关人工智能的内容及影响,并比较了中美之间的相应战略。
在网络安全专家能够发现并修复计算机软件的“零日”漏洞之前,黑客可对这些漏洞利用的平均时长长达312天。美国国防部高级研究计划局(DARPA)正在致力于开发新的人工智能技术,希望能够在数秒或数分钟内发现并修复此类漏洞。 在2016年夏季由DARPA主办的Cyber Grand挑战赛中成功入围决赛的七支团队将展示各自的人工智能系统,这些系统可自动扫描对手的网络服务器是否存在漏洞利用程序,并通过主动发现和修复软件漏洞来保护自己的服务器。前三名获胜团队将直接获得200万美元、100万美元、75万美元的奖励。但从长远
随着新年的到来,我们看到网络安全领域正迎来人工智能驱动攻击的激增,推动该行业进入快速创新周期。防御方正全力开发先进的基于人工智能的安全措施,不仅要实时检测和应对威胁,还要预测和制止威胁在成型之前。在我们看来,2024年可能成为人工智能在网络安全中扮演关键角色的决定性时刻。我们Aqua Nautilus研究团队成员阐述他们的看法,以及我们可能会看到的其他趋势。
选自Nature 作者:Mariarosaria Taddeo、Luciano Floridi 机器之心编译 参与:李泽南、路 随着人工智能技术发展,网络空间的安全风险正在变得越来越大。但是,各个国家在纷纷制定人工智能发展战略的同时,却也在忽视「国际法」的建立——而网络世界已经和陆海空一样成为了很多组织,甚至国家之间对抗的「战场」。来自牛津大学的 Mariarosaria Taddeo 与 Luciano Floridi 近日发出呼吁,希望国际社会能够重视并尽快建立 AI 时代网络安全的行为准则和相关法律。
随着人工智能技术的不断发展,API接口安全问题也日益凸显。API接口是现代互联网服务的核心组成部分,它提供了网络应用程序之间相互通信的方法,使得不同的软件和系统能够无缝地集成在一起,这为业务的快速部署和实现带来了巨大的便利性。
本次报告介绍了深度学习安全性和可信性的关键问题,从对抗攻击、对抗防御和攻防平台三个方面介绍了目前的研究现状,同时带来了研究团队在这些关键问题上的最新研究成果,最后对发展安全可靠、鲁棒可理解的第三代人工智能进行了展望。
机器之心报道 作者:杜伟 清华大学联合阿里安全、瑞莱智慧 RealAI 等顶尖团队发布首个公平、全面的 AI 对抗攻防基准平台。AI 模型究竟是否安全,攻击和防御能力几何?只需提交至该平台,就可见能力排行。 从发展的角度来看,人工智能正在从第一代的知识驱动和第二代的数据驱动转向第三代的多元驱动,知识、数据、算法和算力成为四大因素。安全可控也成为第三代人工智能的核心发展目标,数据与算法安全成为学界和业界人士重点关注的研究主题之一。其中,在数据安全层面,数据泄露和投毒是造成数据安全风险的两个重要根源;在算法安全
---- 新智元报道 来源:学术头条 作者:库珀 【新智元导读】近期爆火的 AI 聊天机器人 ChatGPT,以及文生图模型 Dall·E 2、Stable Diffusion 等,让生成式人工智能(generative AI)成功出圈。然而,技术的背后,也暗藏了一些不容忽视的风险。对安全团队而言,ChatGPT 和生成式人工智能究竟是福还是祸? 最近,普华永道的分析师们对国外科技媒体 VentureBeat 分享了关于生成式人工智能和 ChatGPT 等工具将如何影响威胁形势以及防御者将出现哪些
近日,微软联合伦敦大学发布了一份有关英国企业网络攻击的报告。数据显示,英国仅有13%的企业能够抵御网络攻击,另外有48%的企业经常受到攻击,还有39%面临破坏性网络事故的高风险。
Identity Digital域名 注册专场部分域名直降120元 点击直达 人工智能(AI)聊天机器人在全球范围内风靡,2023年将成为越来越多人关注的技术。OpenAI于2022年的最后一个季度发布了ChatGPT,这促使许多公司、组织和个人进入这一领域。甚至科技大亨埃隆•马斯克(Elon Musk)也加入了关于人工智能聊天机器人的讨论,并强调了这项技术的潜在好处和风险。谷歌也宣布了自己的人工智能聊天机器人Bard。 人工智能(AI)聊天机器人在全球范围内风靡,2023年将成为越来越多人关注的技术
随着人工智能应用的持续深入和普及,我们有必要考虑它对各种团队的影响,包括那些专注于安全、信任和合规性的团队。这些团队会遇到哪些挑战和风险,人工智能如何帮助解决这些领域的问题?本指南旨在根据HackerOne公司在不断发展的人工智能领域的经验和见解来解决这些关键问题。
在作战层面,陆战与一般的战争概念相符。战场可能很大,一直延伸到敌方领土,尽管无法与海战或空战相比。然而,与海、空战场不同,陆地战场上到处都是人和建筑物,严重阻碍和制约了双方军队的行动。过去的一个世纪里,陆战逐渐发展为多领域战争,网络和太空的加入进一步延伸了这一长期趋势。同时,自冷战后期以来,装备精良的大型现代军队之间的陆战也日益成为作战网络之间的对抗。当然,目前这主要还是预言。近期并无使用先进技术发动的大规模陆战,在对立作战体系之间没有发生体系对抗。
ChatGPT是一个强大的人工智能聊天机器人,它使用大量的数据收集和自然语言处理与用户“交谈”,感觉像是和正常的人类对话。它的易用性和相对较高的准确性让用户可以利用它做任何事情,从解决复杂的数学问题,到写论文,创建软件和编写代码,以及制作令人着迷的视觉艺术。
本文介绍了2018年大数据、商业智能、云计算、物联网、人工智能、机器学习等领域的趋势和展望。作者认为,随着大数据的快速发展,企业需要从主要关注成本转向主要关注价值,通过利用人工智能和机器学习来提高运营效率,并利用这些技术来对抗网络安全威胁。
ChatGPT曾因其先进的对话能力而声名鹊起,然而有一些用户发现了能够绕过其系统内置的安全措施的弱点。如果有人可以操纵聊天机器人提示系统,那就能发布一些未经审查和监管的内容,这引发了道德问题。
回顾2017年,我国大数据产业保持高速发展态势,各级政府和企业大力推进,技术创新取得明显突破,大数据应用推进势头良好,产业体系初具雏形,支撑能力日益增强。展望2018年,大数据产业发展将迎来“黄金时代”,产业集聚将进一步特色化发展,创新驱动仍将是产业发展主基调,大数据融合应用进程加速,为做大做强数字经济、带动传统产业转型升级提供新动力。 2018年的商业智能 企业决策正在经历的转变将延续到2018年。在2017年,处理大数据的目标使效率越来越高,成本不断减少,从而造就了基于大数据的商业智能,对中小企业
人工智能应用的范围很广,包括:计算机科学,金融贸易,医药,诊断,重工业,运输,通讯,法律,科学发现,游戏,音乐等诸多方面。今天介绍19个AI热门应用领域
整理 | 伍杏玲 出品 | AI 科技大本营(ID:rgznai100) 回顾人工智能 60 多年的发展历程,我们经历了第一代以知识驱动的人工智能,第二代以数据驱动的人工智能,如今来到第三代以安全、可控为主的阶段。 为何 AI 安全如此重要?譬如去年引发全民“吃瓜”的“AI 换脸杨幂”等换脸技术,在娱乐之余,还有可能被不法分子应用到黑产以及金融欺诈事件中。 另外,由于算法存在的“对抗样本”特征,黑客可基于对抗样本技术,通过简单伪装,便能引发 AI 算法新漏洞,随之攻击系统。去年美国东北大学和麻省理工学院共同
物联网(IoT)的扩张已经把数不胜数的大数据新来源添加进了数据管理的版图,它将成为2018年及若干年之后主要的大数据趋势之一。笔记本电脑、智能手机、传感器,都为物联网带来了大量数据。 这是获得竞争优势(或者保持竞争力)的重大机遇,前提是企业足够灵活,可以管理好数据并把数据变成有用的商业智能。随着大数据的增长,企业试图跟上它的脚步,努力把数据变成可用的洞见。商业智能是保持竞争力的关键,而数据分析提供了所需的最新信息。 在2017年,一些企业大力发展他们的大数据可视化服务和软件。这使研究人员可以更有效地收集和协
机器之心发布 清华大学人工智能创新团队 清华大学张钹院士带领的人工智能创新团队在 NIPS 2017 AI 对抗性攻防竞赛中获得冠军(指导教师:朱军、胡晓林、李建民、苏航),战胜来自斯坦福、约翰霍普金斯大学等世界著名高校在内的 100 多支代表队,在人工智能技术的鲁棒性和安全性应用方面迈出了重要一步。 以深度学习为代表的人工智能系统近年来在图像分类、目标识别等诸多任务中都获得了突破性进展,但是研究发现深度学习模型在鲁棒性上存在严重的不足,很多在特定数据集上测试性能良好的模型反而会被一些人眼不容易识别的「对抗
紧接着3月底,由马斯克、图灵奖得主Bengio等千名大佬联名,发起暂停超级AI研发的公开信。
随着网络威胁愈演愈烈,防火墙和杀毒软件这样的安全产品逐渐变成了古老的工具,企业正在寻找更先进的技术来保护那些关键数据。 人工智能逐渐走入各行各业,网络安全领域自然不甘下风,使用人工智能技术,新的漏洞可
4 月 7 日,来自清华的 RealAI(瑞莱智慧)发布了 RealSafe 人工智能安全平台,随之推出的测试结果令人惊讶:通过平台对微软、亚马逊云服务的人脸比对演示平台进行测试显示,基于 RealSafe 平台生成的对抗样本「噪音」能够极大干扰两大主流人脸比对平台的识别结果。
笔记本电脑、智能手机、传感器,都为物联网带来了大量数据。这是获得竞争优势(或者保持竞争力)的重大机遇,前提是企业足够灵活,可以管理好数据并把数据变成有用的商业智能。
作为一项技术,人工智能最大的优点是对效率的提升。在军用方面,它的突出之处在于识别模式和极其快速地检测海量数据中的目标项目。这意味着,对于固定系统,人工智能能够对无人机上传的长达数小时的视频进行分析并找出特定人物;对于移动系统,能够识别传感器视频图像中的障碍物,甚至可以接受人类管理者的简单语言指令。
近日,易到用车关闭人工客服热线,采用人工智能客服一事让其再一次成为了舆论的热点,在这件事中,虽然其成为热点多是源于东家乐视的缘故,但我们也不能忽视智能客服这一新兴行业。 人力成本日渐上升,智能客服前景
作者 | George Dvorsky 编译 | KK4SBB 去年,两位来自信息安全公司ZeroFOX的数据科学家做了一组实验,他们想测试人工智能算法是否比人类更容易欺骗Twitter用户点击恶意链接。科学家们从社交网站收集用户行为数据来训练模型,然后以此设计并生成恶意链接诱饵。在测试中,人工智能的表现显著超越了人类对手,它们撰写和发布假消息的能力远胜人类,而且转化率还更好。 这个AI名叫SNAP_R,它以每分钟6.75条消息的速率向800名用户发送钓鱼消息,其中有275名用户成功上钩。相比之下,来自福布
人工智能毫无疑问重塑了工程师和研究者们,但是,掌管公司发展前景的CEO们更关心什么呢?
李杉 编译自 PwC 人工智能(AI)非常复杂,而且发展迅速。任何人都不可能对未来几年的发展做出准确的预测。 然而,我们却有可能对今年的人工智能趋势做出具体的预测,然后分享它对商业、政府和社会产生的
https://mp.weixin.qq.com/s/7h0qCIuxAUnxF_S0M1xekw
“世界正在向人工智能驱动的生态系统发展,”国防部秘书Ajay Kumar博士在一份声明中表示。“印度也正在采取必要措施,为未来的战争准备防卫力量。”
AI(人工智能)技术现在正准备改变每个行业,就像100年前的电力一样。从现在到2030年,它将创造约13万亿美元的GDP增长。虽然它已经在谷歌,百度,微软和Facebook等领先的科技公司中创造了巨大的价值,但其他许多价值创造浪潮将超越软件领域。
德国国防部在一项总额为5亿欧元(约合5.4亿美元)的COVID-19补贴计划中资助了被称为幽灵游戏(GhostPlay)的军事元宇宙项目,该项目计划为期四年,旨在激活德国高科技国防研究领域。这些资助款项由德国联邦国防军数字化和技术研究中心的(dtec.bw)管理。
摘 要:随着5G的商业化运行,通信网络运营正面临巨大挑战,传统运维管理方式难以适应5G空前庞大的网络规模、复杂的网络结构、激增的网络流量和多元化动态业务等新的需求,成为制约5G应用推广和效能提升的最大瓶颈。人工智能近年来发展迅猛,在许多传统行业成功应用。将人工智能应用于5G网络,可以有效提升网络的自动化、自主化程度,使过去的“傻瓜式”网络逐步向“智能化”的自动运行网络演进,为5G的商业化部署和更新迭代扫清障碍。
过去一周,国际、国内的大数据相关公司都有哪些值得关注的新闻?数据行业都有哪些新观点和新鲜事?DT君为你盘点解读。
今年在旧金山举行的RSAC大会上有一个热门话题:人工智能工具。生成式人工智能在网络安全工具中的潜力引发了网络安全专业人士的兴趣。但是人们对人工智能在网络安全中的实际应用,以及用于建立人工智能模型的数据的可靠性提出了质疑。 网络安全战略顾问、GoogleCloud和Cyversity的董事会成员M.K. Palmore在采访中表示:我们目前正处于与人工智能交手的第一局,我们还不知道人工智能对网络安全行业的影响会有多大,也不知道我们最终能看到什么结果。但我们心存希望,整个公司目前也正朝着一个方向努力,这也表明我
今天是场景构建的基础元年,大数据不是博眼球而是深耕行业,其与人工智能相结合是未来趋势 | 大咖周语录
对抗性攻击对于AI来说可能是致命的,最近研究发现,在停车标志上放置一个贴纸实际上可以欺骗AI,使其对标志进行错误分类,这可能会导致自动驾驶汽车不会停下。
本期对话清华大学人工智能研究院副院长、清华智能技术与系统国家重点实验室主任,北京智源人工智能研究院首席科学家朱军,解读人工智能安全问题。
一分钟AI: 商汤科技计划赴美IPO,并将在美设立研发中心 美媒称中国导弹阵地遭美国AI技术"快速识别" 美图发布全球首款人工智能绘画机器人Andy 自拍秒变插画 谷歌云平台落地香港,明年将建亚太区第六个数据中心 平安科技与北大汇丰商学院携手,AI进入宏观经济研究领域 深圳市政府法制办举行无人驾驶管理办法听证会 全国机场首个"无人机防御系统"在广州白云机场投入试运行 特斯拉卡车公布售价:15万美元起 现在预订先交2万 AI一眼识别画作真伪,书画鉴定专家要下岗了? 瑞银集团扩大招聘AI人才,未来十年将裁员
数据猿消息,据美国C4ISRNET网站2020年7月22日报道,美国国防部联合人工智能中心成立后大约两年,就将重心转向了新的项目,其中包括一项与联合信息战有关的项目。
(2023年7月17日,上海)生成式AI火爆全球,国内外AI大模型日新月异,人工智能加速走进日常生活。如何在技术“狂飙”的同时,引导技术应用的正向发展?在本年度世界人工智能大会上,商汤科技就此问题给出了答案:着眼现实问题,用可信AI基础设施“护航”大模型发展。
对抗样本是指攻击者故意设计以导致机器学习模型出错的输入样本;他们对机器来说就像是视觉幻觉一样。在本篇博文中,我们将向您展示对抗样本在不同介质中的运作原理,也将讨论为何系统难以防御它们。 在 OpenAI,我们认为对抗样本是研究安全性的一个好方面因为它代表着人工智能安全性上一个能在短期内得以解决的具体问题,由于解决对抗样本是如此之难,需要严肃认真的研究工作。(尽管为了达到我们建立安全、广泛分布的人工智能的目标,我们还需要研究机器学习安全性的许多方面。) 为了弄清楚对抗样本的真实面目,请思索一下《解释并驾驭对
未来,人工智能将大展身手,为使美国做好准备,白宫发布了一份关于人工智能未来发展方向及思考的报告,名为《为人工智能的未来做好准备》(Preparing for the Future of Artificial Intelligence)。该报告分析了人工智能的现状、现有应用和潜在应用、以及人工智能发展对社会和公共政策提出的问题,主要内容包括: (1)人工智能在公共事业中的应用 人工智能和机器学习最有前景的应用之一是其有助于应对世界上某些最严峻的挑战和改变最低效的工作方式,从而改善人们的生活。公共部门和私营部门
为推动和引领人工智能领域创新发展,近日中国人工智能产业发展联盟、厦门人工智能安全研究院组织开展了2021人工智能“创新之星”、“创新人物”评选工作。凭借在人脸安全方面的技术积累和实践经验,“腾讯可信人脸安全”项目从众多参选项目中脱颖而出,获评为2021人工智能“创新之星”。
近日,一些来自网络安全行业内的知名企业:Palo Alto Networks、CrowdStrike、思科、微软和Trellix等公司的高管汇聚一堂,就安全领域当前的一些关键问题在2023年RSAC大会上发表了主题演讲。演讲内容涉及网络威胁和对手战术,网络安全人才短缺、生成性人工智能(RSAC 2023的非官方主题)等。 Trellix首席执行官Bryan Palma就网络安全团队如何在攻击者面前占上风发表了自己的看法,他表示,勒索软件集团正试图摧毁我们的企业,但我们目前能做的只是防御性战术。他认为企业应该
今天墨者安全在和友友们讨论的时候,被问到一个问题,什么是物联网?物联网遭受到网络攻击怎么解决?墨者安全先解释下什么是物联网吧。
领取专属 10元无门槛券
手把手带您无忧上云