专栏首页ATYUN订阅号无需过于担心DeepFake,研究表明人们通过练习能够更好地识别假新闻

无需过于担心DeepFake,研究表明人们通过练习能够更好地识别假新闻

编译 | bie管我叫啥

发布 | ATYUN订阅号

由AI制作的假视频和图片开始泛滥,促使学者和立法者呼吁采取对策,以免削弱人们的信任,但麻省理工学院媒体实验室和马克斯普朗克人类发展研究所的研究人员表示,这些担忧可能被夸大了。

在一篇新论文“Human detection of machine manipulated media”中,科学家详细介绍了一项旨在衡量人们识别机器操纵介质的能力的实验。

他们报告说,当参与者的任务是猜测一对图像中的哪些图像是用AI进行编辑时,人们通常会在提供有关其检测尝试的反馈时学会快速检测假照片。仅10对之后,大多数人的评分准确度提高了10个百分点以上。

论文写道,“今天,人工智能模型几乎可以立即产生照片般逼真的操作,从而放大了错误信息的潜在规模。这种不断增长的能力要求了解个人区分真实和虚假内容的能力,我们的研究提供了初步证据,证明人类检测虚假机器生成内容的能力可能会随着内容普及而增加。”

2018年8月,该团队在一个名为“Deep Angel”的网站上的“侦测赝品”部分嵌入了他们的目标移除人工智能模型,该模型能自动在海洋图片中检测到船只之类的物体,并将它们移除,然后用近似闭塞背景的像素替换它们。

在测试中,用户会看到两张图片,并被问到哪张图片被Deep Angel删除了,一个是人工智能模型删除的对象,另一个是2014年开源MS-COCO数据集的未修改样本。

从2018年8月到2019年5月,超过16500个IP地址提交了24万次猜测,平均识别准确率为86%。在观看了至少10幅图像的7500人的样本中,第一幅图像的平均正确分类率为78%,第十幅图像的平均正确分类率为88%,大多数经过处理的图像以90%以上的准确率被识别出来。

研究人员承认,他们的结果普遍性仅限于他们的AI模型产生的图片,未来的研究可以扩展所研究的领域和模型。后续研究是调查直接反馈如何帮助或阻碍检测能力。但他们的研究结果表明,有必要重新审视通常应用于内容生成人工智能的预防原则。

研究结果建立在最近的研究基础之上,这些研究表明人类直觉可以成为关于图像对抗性扰动的可靠信息来源,让人们熟悉假新闻是如何产生的,可能会让人们在后来接触到虚假信息时产生认知免疫。

End

本文分享自微信公众号 - ATYUN订阅号(atyun_com),作者:关注人工智能的

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-07-15

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • “深蓝”的延伸:未来AI平台将释放电子竞技数据价值,开发全AI竞赛成为全新挑战

    “机器人”是人工智能领域的名词,代表在线多人游戏中的玩家角色。最早的例子如Nintendo 64系统上的Perfect Dark,其中包括该功能作为在这种预启动...

    AiTechYun
  • 科学家开发出可擦除AI短期记忆的新技术

    人工智能机器从自身行为的结果中学习,提高自己的能力。但是,有专家表示,这个特点可能会导致人工智能无法被关停。为此研究人员开发了一个他们称之为“安全中断”的系统。...

    AiTechYun
  • 利用AI提高对深海物种的识别速度和准确率

    随着海洋环境面临越来越多的威胁,科学家迫切需要更多关于栖息在海床中的生物的信息,以便为海底生物提供保护并为生物多样性管理提供信息。

    AiTechYun
  • 人工智能的2018:趋势、挑战与泡沫

    没有人能精确地说明这一轮人工智能创业热潮到底是从哪个节点开始,又将持续多久,但有了几年前“百团大战”和当下正在进入寒冬的“单车大战”做前车之鉴,如今在谈到人工智...

    机器人网
  • 人工智能的2018:趋势、挑战与泡沫

    【导读】Emotech创始人庄宏斌认为,整体来讲AI不会是一个泡沫,只要大家不要按照科幻小说去想象它就行。 ? 没有人能精确地说明这一轮人工智能创业热潮到底是从...

    WZEARW
  • “深蓝”的延伸:未来AI平台将释放电子竞技数据价值,开发全AI竞赛成为全新挑战

    “机器人”是人工智能领域的名词,代表在线多人游戏中的玩家角色。最早的例子如Nintendo 64系统上的Perfect Dark,其中包括该功能作为在这种预启动...

    AiTechYun
  • 沈向洋:从深度学习到深度理解

    7月19日,深圳市人工智能与机器人研究院与香港中文大学(深圳)联合主办的“全球人工智能与机器人前沿研讨会”( FAIR 2020 )在线上开幕。

    AI科技评论
  • 一周AI看点 | 迪拜新任命的人工智能国家部长仅27岁,吴恩达招实习生没上过Coursera课的不要

    本期一周AI看点包括行业资讯、投融资、业界观点、技术前沿以及应用等方面。 行业 百度或分拆国际化事业部,进一步聚焦人工智能战略 《财经》近日报道称,百度国际化...

    AI科技大本营
  • 活动 | 腾讯×Nature Research:42问AI与机器人的未来

    「 42. 」 这是科幻小说《银河系漫游指南》中智能计算机「Deep Thought(深思)」经过750万年运算,找到的「关于生命,宇宙及一切问题的终极答案」...

    腾讯技术工程官方号
  • 一周AI看点 | 人民日报刊文人工智能标准有待厘清;Gartner发布2017年度新兴技术成熟度曲线

    本期一周AI看点包括:技术前沿,行业,观点,应用以及投融资等方面。 行业 Gartner发布2017年度新兴技术成熟度曲线:人工智能无处不在 Gartner公司...

    AI科技大本营

扫码关注云+社区

领取腾讯云代金券