为保障AI系统安全性,纽约大学正在开发识别漏洞和缺陷的新方法

来源:EurekAlert

智能观 编译

几十年来,网络安全社区一直在设计保护措施,以抵御恶意软件的攻击,并识别和修复可能破坏计算程序的缺陷(这些程序对生活的各个方面至关重要)。现在,纽约大学坦登工程学院(NYU Tandon)和哥伦比亚大学组成的一个研究小组,正在开发一批工具,为人工智能( AI )系统提供同样的保护,并已获得美国国家科学基金会( NSF )的资助。

NYU Tandon电子和计算机工程系助理教授Siddharth Garg说:“在你部署计算机软件之前,有很多方法可以测试和调试,还有一些方法可以验证软件是否能如预期的那样工作。而人工智能系统没有任何类似的东西。我们正在开发一套工具,可以让自动驾驶、医学成像和其他应用系统的部署更安全可靠。”

除了Garg,研究团队成员还包括NYU Tandon电子和计算机工程系的助理教授Anna Choromanska,计算机科学和工程系的Brendan Dolan-Gavitt,以及哥伦比亚大学工程学院计算机科学系助理教授Suman Jana。

NSF将提供为期三年,共90万美元的资助,使研究人员完善正在开发的一套工具,这些工具主要用来保障人工智能系统的安全性。Garg解释说,他们的工作包括建立防御计划,防御恶意攻击,检测系统是否存在可被利用的“后门”,以及诊断系统中可能产生安全影响的无意缺陷。最近几起广为人知的无人驾驶汽车车祸就是例子。

人工神经网络是AI系统的基础,它支持自动驾驶、语音识别和面部识别等技术,以及正在改变医学成像的机器学习算法。人工神经网络如此复杂和独特,用于调测、验证软件的传统方法根本不适用。

Dolan - Gavitt说:“随着深度学习在越来越多的领域得到应用,开发识别漏洞和缺陷的新方法,以及了解我们何时对系统进行了足够好的测试,并有信心部署它,都是至关重要的。”

https://www.eurekalert.org/pub_releases/2018-08/ntso-san082018.php

—完—

我们约稿啦!

嗨,亲爱的读者朋友,这是一封写给你的约稿函。

约稿?

是的。

为何约稿?难道智能观江郎才尽了?

当然——不是。

智能观致力于提供高附加值的“教育+AI”以及教育创新方面的内容,我们大部分原创内容都是关于国外的业内动态、教育尝试、前瞻思考以及相关资源等,另外是国内的业内现状等原创。有读者感叹,为何国外的业内人士愿意分享自己的思想、创新尝试、学习经验等,国内的却不多?

这也是我们经常思考的事。

我们希望看到更多一线从业者的创新与状态;希望看到更多业内朋友关于教育+AI的深度思考;希望鼓励我们亲爱的读者朋友,习惯记录并分享自己的每一次关于教育的尝试。

因此,如果你是一线教师或校长,如果你是教育+AI领域的从业者;如果你是教育创新的探索者;如果你是对这个领域有所思考的在校生;如果您在教育游戏化、STEM/STEAM、项目式学习、个性化学习等方面有独到见解,期待你跟我们的读者朋友分享,欢迎不吝投稿,我们将甄选有思想、有价值、具实用性的内容予以刊登。

优质原创首发稿件一旦选用,会视稿件质量,有一定稿费(40-80元/千字);还会根据公众号阅读量过万、过5万、过10万等有不同级别额外奖励。

投稿内容

目前,我们征稿的栏目有:

1.《方法论》:给读者能用得上的实用方法。

包括课堂中具体的创新方法;教育+AI实践中的有效方法;将游戏化、项目式学习等融入教育的方法;帮助从业者高效管理日常工作、有效自我提升的方法等。

2.《聚焦一线》:关注教育一线。

包括当下发生的有关AI+教育和教育创新的一线探索。

3.《充电》:分享给读者学习提升的干货。

包括AI教育、AI+教育、教育创新等方面的实用课程、书籍、学习经验总结等。

4.《洞见》:分享在AI、AI+教育及教育创新领域的深邃思想与前瞻性观点。

包括教育界、科技界的一线实践者、资深专家大牛等对领域的思考与探索。

投稿要求

我们对稿件有一些要求,希望得到你的理解与支持:

1. 逻辑清晰,语言流畅,可读性强;

2.所投文章应符合专栏主题,《方法论》《充电》应具有实用性、创新性;《洞见》应具有思想性、前瞻性;《聚焦一线》应具有实效性、启思性。

3. 尽量减少错别字,保证稿件质量。

4. 来稿字数在1000-2000最佳。

5. 我们在尊重作者的基础上,保留对作品的删减、修改权。

投稿方式

邮箱地址:zhinengguan@qq.com

联系QQ: 3114334406

负责人微信:znglmym

投稿格式:

邮件投稿请参照以下格式:

主题:请注明投稿、栏目和题目,如:【投稿】——【栏目】《文章标题》

正文:请勿用附件的形式投稿,请于正文处放置文章内容。

注:请留下您的个人简介、联系方式、及微博地址,并请注明稿件是否原创首发。如果48小时内没有收到回复,您可以自行处理您的稿件。

由作者本人在本站独家首发投稿的原创文章,智能观微信公众号及其他新媒体矩阵推送时将标注原创。

如能附上个人照片及简介更好,我们会在刊发时,对作者进行介绍。

我们很高兴,能与你在AI+教育、教育创新以及终身学习的路上结伴同行!

爱你的 智能观小伙伴

想知道AI加教育领域有哪些最新研究成果?

想要AI领域更多的干货?

想了解更多专家的“智能观”?

请前往:www.智能观.com。

声明:

编译文章旨在帮助读者了解行业新思想、新观点及新动态,为原作者观点,不代表智能观观点。

转载智能观原创文章,请联系

智能观小艾(微信号:zng2017618)!

关于我们

我们关注AI+教育。致力于提供高附加值的知识,以帮助每一位老师和我们的读者不断学习并提高技能。

我们努力让发表的每一篇文章都具有最佳质量,以满足读者的需求。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180824A1I5RW00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券