专栏首页ATYUN订阅号隐私组织呼吁美国政府采用AI通用指南,保障AI的安全使用

隐私组织呼吁美国政府采用AI通用指南,保障AI的安全使用

编译:chux

出品:ATYUN订阅号

上周在布鲁塞尔举行的一次会议上公布的12则通用指南,旨在降低风险的同时最大化利益,改进AI的设计和使用。AI多年来一直是基于机器决策的术语,但随着技术被更广泛采用,基于AI的结果对人类生活产生了更大的影响。

但通常这些决策都是通过专有和封闭算法做出的,因此几乎不可能知道决策是否公平或合理。

根据电子隐私信息中心(EPIC)的规定,这些指南旨在融入AI,以确保对人权的保护。这包括了解决策结果所使用的因素,逻辑和技术的权利;消除歧视性决策的公平义务;并有义务确保系统免受网络安全威胁。

现在,EPIC希望将这些原则引入美国,在致美国国家科学基金会的一封信中,EPIC呼吁这个政府机构采用通用指南,几个月后,它就国家AI政策提出了建议。

“通过投资努力满足普遍原则的AI系统,美国国家科学基金会可以从一开始就促进准确,透明和负责任的系统的开发,”EPIC总裁兼执行董事Marc Rotenberg写道,“道德开发,实施和维护的AI系统比那些不规范的系统花费更多,值得投资和研究。”

EPIC表示,这12项原则完全符合美国迄今已制定的七项战略,使其采用的案例更加容易。超过200名专家和50个组织签署了该指南,包括美国联邦科学家和政府问责项目。

随着政府对信息的要求现已结束,在政府决定下一步将会采取什么措施(如果有的话)之前,可能需要更长时间。这不是由美国国家科学基金会来决定,而可能是白宫的科技政策办公室。白宫发言人目前还没有回应。

以下是指南的内容:

  • 透明权。所有个人都有权知道与他们有关的AI决定的基础。这包括访问产生结果的因素,逻辑和技术。
  • 人类决心权。所有人都有权做出最终决定。
  • 识别义务。负责AI系统的机构必须向公众公布。
  • 公平义务。机构必须确保AI系统不反映不公平的偏见或做出歧视性决定。
  • 评估和责任义务。只有在充分评估其目的和目标,利益及风险后,才应部署AI系统。机构必须对AI系统的决策负责。
  • 准确性,可靠性和有效性义务。机构必须确保决策的准确性,可靠性和有效性。
  • 数据质量义务。机构必须建立数据来源,并确保数据输入算法的质量和相关性。
  • 公共安全义务。机构必须评估部署指导或控制物理设备的AI系统所产生的公共安全风险,并实施安全控制。
  • 网络安全义务。机构必须确保AI系统免受网络安全威胁。
  • 禁止秘密剖析。任何机构都不得建立或维护秘密的剖析系统。
  • 禁止统一评分。任何国家政府都不得对其公民或居民建立或维持通用评分。
  • 终止义务。如果不再可能对系统进行人为控制,建立AI系统的机构有义务终止系统。

本文分享自微信公众号 - ATYUN订阅号(atyun_com)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-10-30

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 【焦点】本年度最值得关注的10家AI公司

    Ontario已经成为真正的AI中心,而且在全世界范围内,该省在AI领域的全球领导地位也在不断增长。世界一流的研究中心,比如AI矢量研究所,以及NEXT AI等...

    AiTechYun
  • 【行业】机器学习、人工智能和银行数据分析的未来

    不支持AI和投资先进数据分析能力的银行与信用合作社注定要失败。传统的零售银行业者,由于庞大的遗留系统和繁重的规章制度而倍感压力,现在正处于尴尬的境地。金融科技的...

    AiTechYun
  • AI寒冬是否即将来临?

    回顾过去,我们发现过去十年对AI及其研究人员来说是一个伟大的阶段。那时我们看到AI在工作或生活中扮演着更加重要的角色。然而,在BBC的一份报告中已经指出,多年来...

    AiTechYun
  • 【AI女神节特稿】你不能不知道的13位中国人工智能女性

    【新智元导读】一年一度的女神节,新智元整理出几位在人工智能领域工作的杰出女性,她们的研究和工作让人工智能更加美好。 ? 从门禁刷脸到拍照购物再到自动驾驶汽车,人...

    新智元
  • 学会了玩街霸Ⅱ的AI,你怕不怕?

    大数据文摘
  • 对话张潼 | 腾讯AI Lab周岁:规模飙至370人,要做后来居上的终结者

    安妮 李根 发自 成都街头 量子位 报道 | 公众号 QbitAI 14点开始的分论坛,13点就排起入场长龙,这就是腾讯AI Lab受到的关注度。 这个成立刚...

    量子位
  • 普林斯顿计算机教授炮轰“伪AI”:精心炮制的随机数生成器罢了

    有位名叫阿文德·纳拉亚南(Arvind Narayanan)的普林斯顿CS副教授坐不住了。他炮轰道:

    量子位
  • 马库斯批判Hinton、吴恩达、LeCun等三大神煽风点火!指媒体炒作将再引发AI寒冬

    “过度的宣传和错误的信息将导致AI寒冬再来”,纽约大学心理学与认知科学教授、畅销书作家加里 · 马库斯 (Gary Marcus) 最近在The Gradien...

    新智元
  • 数字化时代,云智能重新定义云的未来

    数字化时代,人工智能的火爆,加速了云计算市场的悸动,以AI代表的智能化技术被纳入到云服务的版图。全球范围内g歌和微软,这两个着重强调AI能力与技术的云厂商正在蚕...

    孙杰
  • 这位施主,「AI 宗教」了解一下

    由美国一位工程师在今年初发起的「the Way of the Future(未来之路)」。这个宗教以 AI 为信仰,崇尚技术至上。

    HyperAI超神经

扫码关注云+社区

领取腾讯云代金券