专栏首页arxiv.org翻译专栏人工智能取证:人工智能系统做到了吗?为什么?(cs.AI)
原创

人工智能取证:人工智能系统做到了吗?为什么?(cs.AI)

AI 系统以越来越自主的方式做出影响我们日常生活的决策。他们的行为可能导致事故、伤害,或者更一般地来讲:违反法规 -- -- 无论是有意的还是无意的。因此,AI 系可能被视为各种事件的嫌疑人。因此,将特定事件与 AI、其所有者和创建者相关联至关重要。鉴于来自多个制造商的众多 AI 系统,可能由其所有者更改或系统自学过程产生更改,这些看起来似乎微不足道。本文讨论了如何识别对事件负责的 AI 系统及其可能存在的"设计上恶意"动机。除了概念涉及之外,我们还根据强化学习和卷积神经网络进行两个案例研究,以说明我们提出的方法和挑战。我们的案例说明,"捕获 AI 系统"似乎并非微不足道那么简单,其中需要机器学习领域大量的专业知识。立法措施试图在 AI 系统操作期间强制收集信息,以及唯一识别系统的方法,都可能会使问题恶化。

原文标题:AI Forensics: Did the Artificial Intelligence System Do It? Why?

原文:In an increasingly autonomous manner AI systems make decisions impacting our daily life. Their actions might cause accidents, harm or, more generally, violate regulations -- either intentionally or not. Thus, AI systems might be considered suspects for various events. Therefore, it is essential to relate particular events to an AI, its owner and its creator. Given a multitude of AI systems from multiple manufactures, potentially, altered by their owner or changing through self-learning, this seems non-trivial. This paper discusses how to identify AI systems responsible for incidents as well as their motives that might be "malicious by design". In addition to a conceptualization, we conduct two case studies based on reinforcement learning and convolutional neural networks to illustrate our proposed methods and challenges. Our cases illustrate that "catching AI systems" seems often far from trivial and requires extensive expertise in machine learning. Legislative measures that enforce mandatory information to be collected during operation of AI systems as well as means to uniquely identify systems might facilitate the problem.

原文作者:Johannes Schneider, Frank Breitinger

原文地址:http://arxiv.org/abs/2005.13635

原创声明,本文系作者授权云+社区发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • ReadNet : 使用有限的带噪样本实现精准(ReID)行人重识别(cs.CV)

    行人重新识别 (ReID) 是识别行人的基本交叉摄像头检索任务。然而,每位行人的照片数量通常差别很大,因此数据限制和不平衡问题大大阻碍了预测的准确性。此外,在实...

    Donuts_choco
  • BlaBla:多种语言临床分析的语言特征提取(cs.LG)

    我们介绍BlaBla,一个开源的Python库,用于提取语言特征,这些语义特征与跨越多种语言的神经和精神疾病具有临床相关性。BlaBla 是加速和简化临床语言研...

    Donuts_choco
  • 提高 Dataverse 数据仓库平台的计算再现性(cs.DL)

    最近的可再现性案例研究引起了人们的关注,表明大部分以往的研究无法重现。他们的一个结论是:由于缺少代码执行时所需的运行环境,数据仓库存储研究数据和代码的方式不能完...

    Donuts_choco
  • FDA批准首个可预测死亡的AI,这套系统能有效拯救生命

    问耕 发自 凹非寺 量子位 出品 | 公众号 QbitAI ? 猝死,对人类威胁最严重的疾病之一。每年,美国都有超过40万人在医院发生猝死,这也是美国第三大死亡...

    量子位
  • 伯克利视角:AI系统的九大挑战

    我们在“人工智能深度学习人物关系[全]”和“深度学习名校课程大全”反复提到伯克利大学在机器学习中的地位! 这不, 20天前, 伯克利大学总结了当前人工智能的挑战...

    史博
  • 《机械姬》剧本顾问谈人工智能:善或恶的力量?

    ? 编者按:本文作者为Nancy Mendoza,近日她对AI(人工智能)专家Murray Shanahan教授进行了一次采访,就全新的Leverhulme ...

    新智元
  • 只要你的AI算法能比小白鼠聪明,DeepMind的这20万奖金请拿走

    实际情况是,机器学习算法一般都是在给定条件的任务中有较好的表现,但现实情况则要复杂很多。举例来说,一个老鼠在迷宫中或有遮挡的环境中寻找食物的表现要比一个AI好得...

    量子位
  • 谷歌AI乳腺癌检测超过人类,LeCun质疑引起讨论,但平胸妹子可能不适用

    Google Health开发的AI系统实现了新的突破:在乳腺癌筛查上的准确性大大超过放射科医生。 最新的研究发表在Nature上,为AI进入临床诊断提供了有力...

    量子位
  • AI主播、AI记者、AI编辑,传媒AI化加速

    The Verge 消息:微软从Microsoft News、MSN等媒体中裁撤了数十名新闻媒体工作者和编辑人员,其中涉及英国 27 名员工和美国 50 名员工...

    刘旷
  • 2019全球AI人才分布图:美国占44%,中国人才净流入

    种种证据表明,当前顶级 AI 人才明显供不应求。但这种人才到底有多稀缺以及他们分布在全球哪些地方,却鲜为人知。本报告总结了我们对全球 AI 人才库范围和广度的第...

    机器之心

扫码关注云+社区

领取腾讯云代金券