专栏首页DeepHub IMBA2020:让人工智能变得更加可靠的一年

2020:让人工智能变得更加可靠的一年

本文作者:艾米·霍德勒(Amy Hodler)是图数据库公司Neo4j的数据分析和AI项目主管,也是《Graph Algorithms: Practical Examples in Apache Spark & Neo4j》的合著者。

在世界各地,企业和政府预计将更倾于转向人工智能(AI),利用其潜力实现决策的自动化和改进。人工智能的前景是将复杂的系统改造成更透明、更安全、更智能、更能大规模操作的系统。既然这些也都是我们在道德供应链中坚持的同样的要素,为什么不使用类似的方法来改善我们的人工智能供应链呢? 为了实现这样的前景,人工智能系统必须变得比我们迄今所见的更可靠,并鼓励更多的信任。以下的这两个因素是互相关联的,问责制和适当的数据使用将鼓励对AI的投资和采用。同样,人工智能的进一步发展将要求民众信任这项技术,相信人工智能主导的决策的公平性,以及他们的数据如何被使用。为了创造更负责任的人工智能,我们必须有适当的结构来理解我们的人工智能供应链:我们数据之间的所有联系和背景,数据的收集和处理方式以及可能已被编篡和/或放大的假设和偏见。

决策和责任

随着人工智能应用的增加,分配决策责任将变得更加困难。如果错误造成伤害,谁会受到惩罚?对于在医院、法庭和工作场所做出的高风险决策,需要一个跟踪责任制的系统,决定谁得到保险,谁得到何种法律解决,以及谁被雇用。我们可以从调整AI的成功衡量标准到期望的结果开始,并回答一些问题,如我们如何知道人工智能系统是错误的。

透明度

如果一个不透明的人工智能系统被用来做出重大决定,那么很难找出具体行动方案背后的原因。在供应链中,跟踪对理解至关重要。我们应尽可能使用可解释的模型来为推理过程提供清晰的解释。

消除偏见

机器学习(ML)系统可以巩固决策系统中存在的偏见。必须注意确保人工智能进化为非歧视性的。为了改善这些危险,我们的人工智能供应链需要完全理解用于训练和测试的数据。例如,我们必须能够回答关于数据是如何收集的、由谁收集的,以及这些数据是否能代表模型将如何应用的问题。数据沿袭(Data lineage)和防止数据操纵是可信人工智能的基础。这不仅意味着跟踪数据,还意味着变化的沿袭。例如,清理数据有什么影响,以及从数据中添加或删除了什么?同样,就像我们坚持要跟踪和提醒医疗补品中的任何成分变化一样,我们也应努力跟踪数据变化并检查是否有数据操纵的迹象。

2020年增长势头

在2019年,随着人们和政府意识到这一点,我们看到了公共,私人和政府对创建AI系统准则的转折点,这些准则可以更好地与文化价值观保持一致。去年,欧盟(European Union,EU)发布了有关任何AI系统应被视为“可信赖”的七个关键要求的建议。欧盟AI专家小组建议AI系统应该赋予人类权力,使他们能够做出明智的决定并促进其基本权利,而AI系统和它的决策应该以适合利益相关者的方式被加以解释。大多数评论员都认为这些想法是正确的,指导是有用和及时的。但这只是一个开始,还有很多工作要做。到2020年,这种势头将会加速,新的更新清单将会发布。此外,更多组织将开始使用独立的风险评估,并将跟踪人工智能供应链中的人的元素纳入其中。例如,监控所涉及团队的多样性,包括可能影响选择的文化背景,甚至考虑他们的工作条件。与此同时,为了显著提高我们解释人工智能系统如何获得其政策建议的能力,我们预计各组织将寻求一种越来越有前景的方法来增加人工智能的可靠性和信任度——图技术。有关AI的逻辑是,当我们添加上下文背景信息(context)时,AI表现得更好,更容易跟踪。为了加强AI的能力,人工智能系统需要提供相关信息,以利用这些信息解决我们希望它们解决的问题。这将使他们拥有更大的能力,并且处理更复杂、更细微的决策。

使AI预测更加可靠和值得信赖

图(Graphs)提供了许多方法来添加重要的上下文层。让我们考虑一下人工智能中的一个例子。软件产品会因提供错误或难以理解的答案而臭名昭著。ML分类器曾经建立导致商品分类错误的关联,例如将炸薯条分类为蟹腿。撇开算法不谈,理解什么数据被用来训练我们的模型,以及为什么这对于验证分类和预测是极其重要的。数据沿袭(Data lineage)是记录数据点起源的任何项目的系统,它是如何收集和处理的,以及假设和偏见可能已经被编纂/放大,以及它如何随着时间的推移而移动。这些信息很容易在图网络表示中进行编码。图(Graphs)已经成为管理供应链、帮助协调、跟踪和理解复杂相互依赖关系的非常强大和行之有效的工具。如今,由于良好的供应链管理和道德规范,您可以购买一条环保的牛仔裤或公平贸易的咖啡,但是您不知道AI系统是否经过道德培训或使用的数据是否有偏见。这是不可接受的。我们相信,在2020年,随着人工智能和伦理道德的挑战成为一个越来越紧迫的问题,我们需要为人工智能提供正确的背景和透明的决策,为跟踪我们人工智能供应链的要素打下简单的基础。现在是我们开始的时候了,这样做使可信的人工智能应用成为现实。

DeepHub翻译小组:Amberrr_XR 译

本文分享自微信公众号 - DeepHub IMBA(deephub-imba),作者:Amberrr_XR 译

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2020-03-03

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 数据科学、人工智能与机器学习傻傻分不清楚,看这篇就够了

    尽管"数据科学"、人工智能 (AI) 和机器学习属于同一领域,彼此相互联系,但是它们也有特定的应用背景和意义。它们有时也会有重叠,但基本上它们都有自己的特定的用...

    deephub
  • 万字长文科普:人工智能是什么?它又是如何工作的呢?

    关于 “AI 的定义” 这一问题,不同的人有不同的答案。 普通人可能会把 AI 和机器人联系起来,认为 AI 是能够独立行动和思考的人类终结者。但是对于 AI ...

    deephub
  • 人工智能与人类智力,当两者相遇时谁又能更胜一筹?

    人工智能并不是人类所拥有的智能,而是由机器所展现的智能。它是一个概括性的术语,代表了诸如认知计算,机器学习,图像识别等诸多技术。在1956年,人工智能(AI)正...

    deephub
  • 人工智能来了,哪些人能保住饭碗?听听李开复怎么说

    来源:澎湃新闻,澎湃新闻记者 洪燕华 实习生 李宁琪 来,我们先做几个小测试: 你知道什么是人工智能吗? 手机软件P图?苹果手机的Siri? 打车用的滴滴?特...

    小莹莹
  • 人工智能发展的四要素

    毫无疑问,AI(人工智能)已成为了科技巨头保持领先、开拓新机会的核心要素之一。目前,无论是巨头还是创业公司都在积极理解AI,那马化腾先生是如何看待AI领域目前的...

    华章科技
  • 大咖 | 卡耐基梅隆教授Tom Mitchell:人工智能在中国前景光明,有2点要注意

    大数据文摘
  • 将AI应用到供应链中的三个步骤

    导读:上一期了解了关于比特币相关的法律问题的相关介绍,今天我们来了解一下关于将AI应用到供应链中的相关内容(文末更多往期译文推荐) 现代全球供应链是由规模来定义...

    灯塔大数据
  • 乌镇AI论坛最全盘点:中国互联网半壁江山坐在了一起,他们怎么看AI

    编辑:弗格森、全月、佩琦、刘光明 【新智元导读】 “乌镇时间”,世界互联网大会AI论坛,新智元带来最强盘点。企业界,中国联合网络通信有限公司总经理陆益民先生,百...

    新智元
  • 赫尔辛基大学AI基础教程:总结(6.3节,最终章)

    决定我们的社会如何适应人工智能带来的变化的最重要的决定并不是技术性的。他们是政治性的。

    AiTechYun
  • 你离能够拥有一个“强AI”女友还有多久?让专家告诉你

    GAIR 今年夏天,雷锋网将在深圳举办一场盛况空前的“全球人工智能与机器人创新大会”(简称GAIR)。大会现场,谷歌,DeepMind,Uber,微软等巨头的人...

    AI科技评论

扫码关注云+社区

领取腾讯云代金券