研究团队利用无人机和AI技术识别人群中的暴力行为,但涉及该领域的研究引发道德担忧

AiTechYun

编辑:chux

随着公司和研究人员找到使用机器学习分析实时视频片段的新方法,自动监控将变得越来越普遍。英国和印度科学家的一个新项目显示了该技术的一个可能用途:在配备相机的无人机的帮助下,识别人群中的暴力行为。

研究人员在题为“Eye in the Sky”的论文中描述了他们的系统。它使用一个简单的Parrot AR四轴飞行器(大约200美元),通过移动互联网连接传输视频片段以进行实时分析。一种使用深度学习训练的算法估计视频中人类的姿势,并将它们与研究人员指定为“暴力”的姿势相匹配。就该项目而言,仅包括五个姿势:勒伤,拳打,脚踢,射击,刺伤。

科学家们希望像他们这样的系统能够用来检测公共场所和大型活动中的犯罪行为。

视频内容

但是,这项研究面临的困难主要在于其准确性。剑桥大学的首席研究员Amarjot Singh和他的同事们报告说,他们的系统在识别“暴力”姿势时准确率达到了94%,但他们指出,出现在框架内的人越多,准确度就越低(当10个人在场时,精度降到了79%。)

但更重要的是,这些数字并不代表现实世界的用法。为了训练和测试他们的人工智能,研究人员录制了假装互相攻击的志愿者视频剪辑。志愿者以夸张的动作相互攻击。Singh承认,监视系统在现实中表现不一定会这样完美,但他表示他计划在印度的两个即将到来的节日中测试无人机:Technozion和Spring Spree。

在这个领域工作的研究人员经常注意到,分阶段测试和实际使用情况之间存在巨大差异。在后者中,录像通常模糊不清,人群更多,人们的行为更加微妙,更容易被误解。最后一点尤其明显,因为Singh和他的同事没有提供任何有关系统误报率的数字,例如,它将非暴力行为确定为暴力行为的频率。

使用AI来识别身体姿势有很多常见问题,像Facebook这样的大型科技公司发布了有关该主题的重要研究。随着廉价无人机和快速移动互联网的兴起,捕捉和传输实时视频画面比以往更加容易。把这些放在一起创造出复杂的监控并不难。

问题是:这项技术将如何被使用,谁将使用它?说起濒临今年早些时候关于自动监控,这些系统已经成熟,可以由执法者和独裁政府滥用,一些专家对此表示担忧。

ACLU高级政策分析师杰伊斯坦利说,这项技术将对公民社会产生令人不寒而栗的影响,因为人们担心他们会不断受到监控和分析。

研究人工智能的社会影响的研究人员Meredith Whittaker在推文中说,Singh及其同事的论文显示,该领域存在日益严重的道德危机,科学家未能检查他们正在帮助构建的技术的潜在滥用情况。

Singh表示,尽管受到这些批评,它可能会对停止犯罪和恐怖主义产生积极影响。他建议制定新的规定,以免这种技术被滥用,但他承认Whittaker和Stanley所说的令人担忧的情景确实存在,“事物都有其两面性。”

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2018-06-07

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏CDA数据分析师

【系列文】数据分析在互联网金融风险管控的应用!

从今天起,小C会开始每天推送一篇数据分析在各个行业的应用。大家有好的文章也欢迎推荐给我们。共同学习,一起进步。 1 “失控”体系下的互联网金融 互联网的快速发展...

20580
来自专栏CSDN技术头条

深度:数据科学,来自业界的诱惑

编者记:本文是一篇非常国际化的文章,译者在翻译的时候,非常严谨和认真,每个字都细细斟酌,是一篇难得的好文章。国外数据科学的文章,在一定程度上对中国数据科学的发展...

20880
来自专栏PPV课数据科学社区

AI行业的真实发展或许远超你想象

事实证明,在PR这件事上,谁都不是Google的对手 ? 这个前沿科技行业月报系列是36氪前沿科技组的一个尝试,主要是基于我们的一个还不太成熟的判断——这个行业...

40060
来自专栏点滴科技资讯

财富杂志专访IBM人工智能系统Watson负责人:Watson将如何实现功能演进?

5年前在智力竞赛节目Jeopardy中获胜之后,IBM的认知计算系统Watson正快速发展,并且在至少20个行业中的数千家企业中得到了应用。今天,财富(For...

44170
来自专栏AI研习社

AI安全大牛都来了!智能安全的话题引发学术界/产业界共同聚焦 | CCF-GAIR 2018

2018 全球人工智能与机器人峰会(CCF-GAIR)在深圳召开已进入第二天的议程,活动现场依旧火爆。本次峰会由中国计算机学会(CCF)主办,雷锋网、香港中文大...

10120
来自专栏云计算D1net

教你如何利用大数据思维

在和一些企业家交流时,有几个问题会被常常问到,"没有多少数据怎么办?","大数据都是大公司的事情,我们小公司怎么办?""能不能告诉我,哪些软件或者工具可以解决大...

46650
来自专栏专知

【业界】吴恩达、LeCun:人工智能首席官CAIO设立是时候了!

【导读】最近,一则关于在企业中设置“首席人工智能官”的报道同时吸引了Yann LeCun,Yoshua Bengio 以及Andrew Ng的关注。 究竟是什么...

28650
来自专栏AI科技评论

闪耀鹏城!中外AI业界最拉风的新品都在这里展示了 | CCF-GAIR 2018

AI科技评论按:2018 全球人工智能与机器人峰会(CCF-GAIR)在深圳召开,峰会由中国计算机学会(CCF)主办,雷锋网、香港中文大学(深圳)承办,得到了宝...

9430
来自专栏AI科技评论

AI安全大牛都来了!智能安全的话题引发学术界/产业界共同聚焦 | CCF-GAIR 2018

2018 全球人工智能与机器人峰会(CCF-GAIR)在深圳召开已进入第二天的议程,活动现场依旧火爆。

11820
来自专栏数据猿

东软集团事业部总监樊建勋:大数据视角下的舆情监测与引导

<数据猿导读> 东软集团事业部总监樊建勋在2016年中国通信大数据会上分享了以“大数据视角下的舆情监测与引导”为主题的演讲。他讲到,舆情这两个字在各行各业都倍加...

29040

扫码关注云+社区

领取腾讯云代金券