专栏首页镁客网欧盟发布“可信赖AI”道德准则草案,提出两大要素、数个不可为

欧盟发布“可信赖AI”道德准则草案,提出两大要素、数个不可为

关于AI的“道德行为框架”,这早已是一个国际性问题。

策划&撰写:韩璐

日前,欧盟委员会(EC)任命的人工智能高级专家小组(AI HLEG)发布了一份内容长达37页的AI开发和使用道德草案——可信赖AI的道德准则草案(Draft Ethics Guidelines for Trustworthy AI)。其中提出,可信赖AI应该具备两大要素,以及AI不可为的基本原则。

据了解,人工智能高级专家小组由欧盟委员会于去年4月任命,组内共有52位代表学术界、工业界和民间社会的独立专家。彼时,这一小组的建立也有消息露出,按照当时的说法,他们的任务主要有三个,包括:

一、就委员会如何在“欧洲人工智能联盟”中建立广泛而多样化的利益相关者社区向欧盟委员会提供建议;

二、支持即将实施的欧洲人工智能倡议(2018年4月);

三、在年底前出台基于欧盟基本权利的伦理发展和人工智能使用准则草案,充分考虑公平性、安全性、透明度、未来工作、民主以及更广泛地影响“基本权利宪章”的适用等问题。该指导方针将在欧洲委员会独立咨询机构欧洲科学和新技术伦理组织(EGE)的发言中进行广泛的磋商和建设之后起草。

如今,这一小组已经完成了任务。

具体来看,根据道德草案准则,可信赖AI有两个组成要素:

一、应该尊重基本权利,使用法规、核心原则和价值观,以确保符合“道德目的”;

二、兼具技术鲁棒性和可靠性,因为即使有良好的意图,缺乏技术掌握也会造成无意的伤害。

不过,不怕一万,就怕万一。为了应对AI出现问题,还应该准备一个“应急计划”,比如系统出现问题后,将控制权交由人类手中一般。

另外,该草案还提出了几点AI的不可为——AI不应该以任何方式伤害人类;AI不应该限制人的自由;AI应被公平使用,不得歧视或污蔑;AI应透明的运作,即人类需要知道AI正在开发的目的,以及如何使用它;AI应该只为个人和整个社会的福祉而发展。

在整体框架上,草案可分为三部分,第一部分阐述了AI必须遵守的基本权利和价值观,以确保其能够符合“道德目的”;第二部分提出了实现可信赖AI的指导方针,同时兼顾道德目的和技术稳健性,并列出了可信赖AI的要求,包括技术和非技术方法;第三部分则提供了一个可信赖AI的评估表,涵盖问责机制、数据治理、非歧视、尊重隐私等等。

据悉,该草案目前还处于意见征集阶段,时间截止于本月18日。而在今年3月,该草案将被正式提交到欧盟委员会。

一直以来,随着AI越来越多的带来便利性,其背后的道德隐患问题也一直备受关注,关于“AI威胁论”的争论也一直没有停歇。作为一个国际性联盟,欧盟近年来一直都在关注人工智能,除了推动此次草案的完成,其还于去年发布了AI行动计划等等。同时,在企业方面,作为AI的研究者和商业化推动者,包括微软、谷歌等在内,均针对AI推出了自己的AI准则。

本文分享自微信公众号 - 镁客网(im2maker)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-01-07

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • “深度视野,对话未来”,首届中新人工智能高峰论坛在南京圆满落幕

    镁客网
  • AI风暴“席卷”华尔街,但还称不上“完美”的操盘手

    镁客网
  • 英特尔发起AI医疗调查:54%的怀疑者认为AI将导致致命错误 | 热点

    虽然对AI医疗的未来抱有期望,但在当前,更多的人对于这一技术/产业还是持有怀疑态度。

    镁客网
  • 对话迈克尔·乔丹:太多人关注个体智能,而不关注体系

    在这一波技术热潮中,AI 就像灵丹妙药一般被推向了技术进步的神坛,它用在哪个领域似乎都不违和。但在一片热情的喧嚣声中,有举足轻重的人物时不时跳将出来,泼一泼冷水...

    AI科技大本营
  • 华尔街日报:AI 飞速发展,但仍有很长的路要走

    【新智元导读】本文作者是一名拥有神经科学和行为生物学学位的资深科技记者/专栏作家,作者认为现在的AI好比正从水母向智慧生物进化的阶段,距离实现拥有真正智能的AI...

    新智元
  • 基于图像识别的AI自动化测试框架:GAME AI SDK平台解析

    导语 | GAME AI SDK 是腾讯 TuringLab 研发的首个开源项目,着重解决自动化测试工具中的通用性问题,最初主要用于游戏 AI 自动化测试服务,...

    腾小云
  • 【福布斯】O‘reilly人工智能大会,LeCun 等解读人工智能12大痛点

    【新智元导读】如今人工智能发展到底处于何种状态,面临哪些难点,未来发展潜力如何?参加了O‘reilly人工智能大会的行业专家Gll Press带来了他的12个观...

    新智元
  • 腾讯绝悟AI完全体限时开放体验,研究登上国际顶会与顶刊

    感谢阅读腾讯AI Lab微信号第112篇文章。本文将介绍绝悟 AI 完全体升级版本的技术方法,也欢迎读者到王者荣耀 app 亲身体验其技术实力。 腾讯 AI ...

    腾讯技术工程官方号
  • 2017 年关于 AI 的九项预测

    T客汇官网:tikehui.com 译者| 徐婧欣 ? AI 算是 2016 年的一个热点,并且热度在短期内并不会消散。投资、收购、尝试、重组和突破使 AI 产...

    人称T客
  • 【调查】The State of AI:关于人工智能的 6 大真相

    【新智元导读】柏林一家AI初创公司Explosion AI最近做了一份针对AI当前状态的调查(The State of AI),调查对象面向AI从业人员,调查的...

    新智元

扫码关注云+社区

领取腾讯云代金券