脑洞 | AI之间有一场“搏击赛”,邪恶 AI 能否被战胜?

按要求转载自36kr

作者 | Smiletalker

编者按:近日,马斯克与扎克伯格就 “AI 会不会终结人类文明”的话题吵了起来,对 AI 是恶是善业界有不同的声音,那么如果 AI 是邪恶的话,未来我们该如何应对呢?未来五个月,在数据科学竞赛平台Kaggle上将进行一场比赛,比赛将使研究人员的算法相互混淆,试图混淆和欺骗对方,希望这场争斗能够帮助我们深入了解如何加强机器学习系统,防止未来的攻击。

怀俄明大学助理教授Jeff Clune表示:“通过欺骗深层神经网络和设计不能被欺骗的深层神经网络,来加速研究的进程,这是一个绝妙的点子。”

比赛由三个部分组成。

  • 第一个挑战是只是尝试混淆机器学习系统,使其无法正常工作。
  • 第二个挑战将涉及到试图强制系统错误地分类某些东西。
  • 第三个挑战将涉及发展最强大的防御。比赛结果将在今年晚些时候的AI大会上公布。

机器学习,特别是深度学习,正在迅速成为许多行业不可或缺的工具。 该技术涉及将数据输送到特殊类型的计算机程序中,指定特定结果,并使机器开发算法来实现结果。深度学习通过调整数字模拟的神经元构建的巨大的互连网络,来做到这一点。

长久以来,机器学习系统一直可以被欺骗。 例如,垃圾邮件发送者可以通过识别过垃圾邮件滤器的算法来规避邮件过滤。

近年来,研究人员已经表明,即使最聪明的算法有时也会以令人难以置信的方式被误导。 例如,具有接近人类水平的识别图像深度算法可能被看似抽象或随机图像所迷惑。

本次大赛的组织方,Google Brain的研究员Ian Goodfellow表示:“对抗性的机器学习比常规机器学习更难研究 - 很难说你的攻击强度很强或者你的防御力是否真的很弱。”

随着机器学习的普及,这种攻击可能被用于获利或纯粹的恶作剧。例如,黑客可能逃避安全措施,以安装恶意软件。

Goodfellow表示:“计算机安全绝对是在转向机器学习。坏人将使用机器学习来自动化攻击,我们将使用机器学习来进行防御”。

在理论上,犯罪分子也可能让声音和脸部识别系统瘫痪,甚至张贴海报来欺骗自动驾驶汽车的视觉系统,导致系统崩溃。

Kaggle已经成为算法开发的宝贵繁荣之地,也是有才华的数据科学家的温床。 该公司于3月份被Google收购,现在已成为Google Cloud平台的一部分。 Goodfellow和另一位Google Brain研究员Alexey Kurakin在收购之前就提出了这次大赛的想法。

Kaggle的联合创始人兼CTO Benjamin Hamner表示,他希望比赛能引起人们的关注。 “随着机器学习的使用越来越广泛,从对抗学习中了解问题和风险变得越来越重要,”他说。

公开竞赛的好处超过了任何宣传新型攻击的风险,他补充说:“我们认为,这项研究最好是建立公开的,而不是闭门会议。”

原文链接:http://36kr.com/p/5087288.html

2017年7月《顶级数据团队建设全景报告》下载

原文发布于微信公众号 - 大数据文摘(BigDataDigest)

原文发表时间:2017-08-11

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏机器之心

业界 | NovuMind异构智能核心技术引领智联网

31970
来自专栏全栈数据化营销

详解RFM客户价值模型,送你20个企业战略和竞争分析模型

不会模型,做不了分析! 最近在做一个比较大型公司的案子,涉及到营销、销售、架构、财务等各方面的分析和研究,不得不说,在信息量很大、分析维度很多的时候,有准确的分...

486130
来自专栏罗超频道

2014年百度瞄准图像搜索

摘要:李彦宏早在三年前便宣称“读图时代”的到来,而瀑布流、Pinterest、Snapchat等图片应用更是掀起了图片应用之风,图片已经成为移动设备最重要的内容...

34750
来自专栏机器学习算法与Python学习

干货 | 高盛:2017人工智能报告中文版(附PDF版下载)

关键字全网搜索最新排名 【机器学习算法】:排名第一 【机器学习】:排名第一 【Python】:排名第三 【算法】:排名第四 高盛人工智能报告中文版 人工智能是制...

394100
来自专栏深度学习

AI 领域最最稀缺的人才——人工智能架构师

这里,就不卖关子了。AI领域最最最最最稀缺的人才应该为人工智能架构师。有过4次技术创业经历,如今做AI投资的星瀚资本创始合伙人杨歌如是说。 在杨歌的身上,传奇的...

79480
来自专栏CDA数据分析师

吴恩达再次刷屏,推出深度学习课程deeplearning.ai

? 吴恩达离职百度后的动向一直受到各方关注。在他 3 月的一篇博客文章中,这位斯坦福大学教授宣布他将离开中国搜索引擎百度,这一举动给百度造成了超过 10 亿美...

22550
来自专栏CSDN技术头条

概念,算法,应用全部有,迄今为止对大数据研究最透彻的文章……

一、 大数据基本概念 大数据Big Data是指大小超出了常用的软件工具在运行时间内可以承受的收集,管理和处理数据能力的数据集;大数据是目前存储模式与能力、计算...

23660
来自专栏DT数据侠

这个人工智能,能帮你从3050家P2P平台中挑出最不会跑路的

大数据不仅可以帮你看到城市顽疾,还可以做很多你想不到的事情。比如,互联网金融。来自感知城市数据科学研究院、交大OMNILab实验室的这个作品,就研究的是2015...

7500
来自专栏AI科技大本营的专栏

AI领域真正最最最最最稀缺的人才是……会庖丁解牛的那个人

图片来源:Wired 【AI科技大本营导读】这里,就不卖关子了。AI领域最最最最最稀缺的人才应该为人工智能架构师。有过4次技术创业经历,如今做AI投资的星瀚资本...

332100
来自专栏AI科技评论

细拆苹果AI战略蓝图,看离领跑全球还有多远?

AI科技评论按:7月份,在经历了长达几个月外界对苹果AI技术落后的质疑后,苹果又有了一些新动作,首先是在7月20日上线了苹果机器学习官方博客(Apple Mac...

28350

扫码关注云+社区

领取腾讯云代金券