专栏首页大数据文摘AI和机器学习获五角大楼”重用”,创建更强大的网络防御制度

AI和机器学习获五角大楼”重用”,创建更强大的网络防御制度

大数据文摘出品

来源:foxnews

编译:张秋玥、蒋宝尚

国防高级研究计划局(DARPA)正在推行一项前所未有的机器学习“突破性”技术,即开创一种网络安全新技术,旨在同时阻止多重攻击并尽量阻止现有防御系统无法识别的新型攻击。

旨在大规模改进实时AI和机器学习的DARPA主导的“终身学习机”(L2M)计划依赖于这一基本前提:某些基于机器学习的系统可能难以识别、集成并组织某些复杂且尚未被大众认识到的新信息。

DARPA信息创新办公室项目经理和马萨诸塞大学计算机科学教授Hava Siegelmann说道:“如果面对的攻击过于不同寻常,系统可能无法识别并阻止它们。因此我希望有这种能够在实践中学习的机器学习模型。有些情况下系统并不知道该怎么做。”

新兴高科技计划的目标可以通过“实时训练”来解释。如果机器在实时进行分析的同时学习最困难或最模糊的事物,那么,正如Siegelmann解释的那样: “我们不受训练集的束缚(先前编译或存储的信息)。我们将旧数据和新数据放在一起,以便在全部培训数据上重新训练网络。“

正如Siegelmann解释的那样,存在某些从未见过的细微差别或数据排列。当然,这些都与机器学习通常可以分析的内容背道而驰。

此外,人工智能似乎也有一些限制,这意味着它可能还没有能力完全消化和吸收一些非常主观的变量,如“情感”与”本能”、某些需要通过人类认知而实现的独特决策、或任何与计算机算法、数学公式或一些纯科学分析方法不兼容的东西。

相反地,根据一些行业计算机科学家,通过利用包括语音模式、历史行为以及许多其他类型数据的数据库,AI现在处于能够处理更多主观事物的前沿。

有趣的是,Seigelmann解释说,LM2与人类生物现象有一些概念上的相似之处。她说,实时输入和输出之间的先进协同作用类似于婴儿理解周围环境的机制。

“当婴儿出生时,它一直在学习如何适应并学习。如果一个机器能够立刻将新信息添加并同步至现存数据库以快速吸收并理解它,那么它就能快速识别并计算新信息。”Siegelmann补充道。

探索与创建与计算机算法相关的生物学绝非前所未有。五角大楼科学家长期以来一直沉浸在被称为“仿生学”的学科中。在这一学科中,鸟类和蜜蜂的集群模式成为了开发无人机新算法的一种分析方式,使它们能够协调集成功能,准确群集或进行串联操作而不会发生碰撞。

除了正在迅速发展的L2M工作外,Siegelmann还强调了一项相关但又截然不同的专注于网络安全方向的探索。这项研究旨在阻止比寻常攻击更为先进的网络攻击。

这一被称为AI反欺骗鲁棒性保证(Guarantee AI Robustness Against Deception,GARD)的网络安全概念(计划)的目的在于了解一种更为复杂的新型网络攻击。正如Siegelmann所说,这一研究“使得机器学习更敏感,使人工智能更强大且更有韧性。”

GARD计划旨在开发解决新兴入侵的方法。这些入侵意在“欺骗”、“混淆”或误导它正在攻击的机器学习系统。

Siegelmann说。:“这种攻击可能涉及一种会向机器学习系统发送一些东西以使AI以一种不可预期的方式作出响应的算法,实际上是混淆并欺骗算法强迫它做出决定。”

如果此类攻击成功,攻击者可以(比如说)指示AI系统允许攻击者访问受保护的网络,并如Siegelmann所比喻的那样,“打开一扇门”。

Siegelmann根据输入和输出之间的某种协同作用对其进行了解释。DARPA的一位官员说,这种方法使网络安全能够跟踪并阻止比当前常见手法更广泛的攻击方法。

DARPA官员在一份书面声明中解释道。:“当前的防御工作旨在防范预先定义的特定对抗性攻击。它们容易败给超出其测试设计参数的攻击。GARD寻求以一种不同的方式来进行机器学习防御。“

虽然GARD的努力是基于(早已存在的)科学的,这一项目其实仍处于初级阶段。DARPA刚刚向业界发出广泛宣传以征求意见,并计划在今年12月前正式启动该计划。

Siegelmann补充说:“我们将促使AI更好地创建防御制度,通过保护现有机器或建设更新的机器学习模型,这样我们就可以保护现有的机器学习方法了。”

本文分享自微信公众号 - 大数据文摘(BigDataDigest)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-03-21

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 快去注册!吴恩达新书《机器学习思维》免费预定开启

    大数据文摘
  • AI小视频 | 原创灵魂手绘,聊个5分钟的人工智能

    大数据文摘
  • 两张流程图解释什么是机器学习/人工智能

    机器学习算法利用统计数据从大量数据中找到数据的模式。这里的数据可以有很多形式,如数值、文字、图像,甚至你点一次鼠标也算,反正就是你周围的一切一切。

    大数据文摘
  • 李嘉诚首投AI芯片:华人创办公司Kneron耐能,已发3款NPU

    量子位
  • 构建一站式机器学习服务平台,腾讯云为AI实现更多可能

    5月24日,以“无界数据 无限智能”为主题的腾讯“云+未来”峰会AI大数据分论坛在广州拉开帷幕。此次分论坛上,腾讯云针对AI大数据技术的实现与应用,正式对外公布...

    云加社区专栏
  • 【2018将成为AGI元年】13名专家盘点2017最重要AI事件,预测AGI将取代AI

    来源:kdnuggets.com 作者:Matthew Mayo 编译:刘小芹 常佩琦 闻菲 【新智元导读】2017年人工智能最重要的发展是什么,2018年...

    新智元
  • 从3000行缩减到1000行,用django类代替视图函数

    zhaoolee
  • 技术创新一定挣钱吗

    技术是企业的核心竞争力,但所有技术都能为企业带来巨大经济效益吗?事实证明是不一定的,因为必须是可商用化和规模化的技术,才能给企业带来巨大经济效益。技术分两种,一...

    用户5829239
  • CMU 深度学习导论更新 | 第五讲:神经网络的收敛性

    AI 研习社获得官方授权,汉化翻译CMU 2018 秋季《深度学习导论》课程,9月27日正式上线中文字幕版。

    AI科技评论
  • 美DARPA“依赖更少标签”计划加速机器学习研究

    据美国政府计算机网站(GCN)报道,美国国防高级研究计划局(DARPA)目前正在进行机器学习模型效率提升方面的研究。

    人工智能快报

扫码关注云+社区

领取腾讯云代金券