专栏首页arxiv.org翻译专栏牛津人工智能治理手册:工人在人工智能道德和治理中的作用

牛津人工智能治理手册:工人在人工智能道德和治理中的作用

虽然国家、公司和国际组织在人工智能治理中的作用已经被广泛理论化,但工人的作用却很少受到关注。本章着眼于工人在识别和减轻人工智能技术带来的危害方面所发挥的作用。危害是对技术的因果“影响”进行评估。尽管存在技术上的可靠性,但它们并不是技术疏忽的结果,而是围绕复杂社会系统中的安全和公平问题的规范性不确定性的结果。人工智能伦理界对减少伤害的好处有很高的共识,但对确定或处理伤害的机制的共识较少。由于缺乏共识,工人们采取了一系列集体行动,抗议在工作场所如何识别和处理危害。我们将工人在人工智能治理中的作用理论化,并构建了人工智能工作场所伤害报告过程的模型。危害报告过程涉及三个步骤:识别、治理决策和响应。工人们利用三种类型的主张来论证对人工智能治理问题的管辖权:服从、对劳动产品的控制,以及对系统的近似知识。回顾过去十年与人工智能相关的工人维权活动,我们可以了解不同类型的工人在生产人工智能系统的工作场所是如何被定位的,他们的位置如何影响他们的主张,以及集体行动在实现他们的主张时所处的位置。本章认为,工人在识别和减轻人工智能系统造成的危害方面发挥着独特的作用。

原文题目:In Oxford Handbook on AI Governance: The Role of Workers in AI Ethics and Governance

原文:While the role of states, corporations, and international organizations in AI governance has been extensively theorized, the role of workers has received comparatively little attention. This chapter looks at the role that workers play in identifying and mitigating harms from AI technologies. Harms are the causally assessed “impacts” of technologies. They arise despite technical reliability and are not a result of technical negligence but rather of normative uncertainty around questions of safety and fairness in complex social systems. There is high consensus in the AI ethics community on the benefits of reducing harms but less consensus on mechanisms for determining or addressing harms. This lack of consensus has resulted in a number of collective actions by workers protesting how harms are identified and addressed in their workplace. We theorize the role of workers within AI governance and construct a model of harm reporting processes in AI workplaces. The harm reporting process involves three steps: identification, the governance decision, and the response. Workers draw upon three types of claims to argue for jurisdiction over questions of AI governance: subjection, control over the product of one’s labor, and proximate knowledge of systems. Examining the past decade of AI-related worker activism allows us to understand how different types of workers are positioned within a workplace that produces AI systems, how their position informs their claims, and the place of collective action in staking their claims. This chapter argues that workers occupy a unique role in identifying and mitigating harms caused by AI systems.

原文链接:https://arxiv.org/abs/2108.07700

原文作者:Nataliya Nedzhvetskaya, JS Tan

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 过去、现在和未来人工智能治理的幽灵:欧盟的人工智能治理

    人工智能(AI)是美国和中国之间的一场竞争。在本章中,作者将研究欧盟(EU)如何融入这一组合,以及它作为管理人工智能的“第三种方式”能提供什么。本章通过探讨欧盟...

    用户8839613
  • AI早期诊断可挽救心脏和癌症患者

    牛津大学医院研究人员开发出了一种可以诊断心脏病和肺癌的人工智能,使疾病可以更早地得到治疗。 2018年夏天,英国国民医疗服务(NHS)医院将开始免费提供心脏病治...

    人工智能快报
  • 中国发布《新一代人工智能治理原则》, 致力发展负责任的人工智能

    中国国家新一代人工智能治理专业委员会17日在北京发布《新一代人工智能治理原则——发展负责任的人工智能》,明确提出和谐友好、公平公正、包容共享、尊重隐私、安全可控...

    新智元
  • 微软高管:人工智能可在政府治理中发挥关键作用

    据外媒报道,微软高管表示,人工智能在网上被视为是信息和技术中的下一个大事件,能在善治(good governance)中发挥关键作用。 “我们看到各国政府从人工...

    人工智能快报
  • 牛津教授54页PPT揭秘AI革命及其前沿进展!(PPT原文及注解)

    导读:2018年9月9日-14日,DeepMind主办的Deep Learning Indaba 2018大会在南非斯泰伦博斯举行。会上,牛津大学教授Nando...

    华章科技
  • OpenAI等机构发布《人工智能恶意使用》报告,利用AI来犯罪只是时间问题

    AI 科技评论按:本周,OpenAI、牛津大学、剑桥大学等 14 家机构和高校共同发布了一份《人工智能恶意使用》报告,该报告详细讲述了人工智能技术潜在的「恶意...

    AI科技评论
  • 未来具备哪些资质的人,最不容易被机器取代?

    导读:面对AI取代与入侵,焦虑和恐慌没用,此时,更值得探讨的重点应该是:具备哪些资质的人,才有可能不被取代呢? 前不久,一张《纽约客》杂志的封面图意外刷屏。 ?...

    企鹅号小编
  • 【AI版纸牌屋】特朗普团队操纵大数据+AI左右竞选引舆论哗然

    【新智元导读】一家名叫Cambridge Analytica的数据分析公司成了这两天新闻的焦点,他们使用大数据和AI分析Facebook用户资料,操纵舆论帮助特...

    新智元
  • 【重磅报告】牛津剑桥解析恶意AI十宗罪,26位专家断言5年内威胁剧增

    作者:闻菲、小艾、小七 【新智元导读】剑桥牛津OpenAI等14大机构的26位作者,联名发布一份百页报告《预测、防止、缓解对人工智能的恶意使用》,立足当前AI技...

    新智元
  • 五位业界大佬争辩无人驾驶汽车的安全问题

    ---- 作为最早推出车载人机交互系统的汽车厂商,宝马在CES期间展示了最新的iDrive人机交互指令输入系统,可以通过iDrive控制器、语音输入指令与车辆...

    机器人网
  • 干数据不容错过的16部电影

    发行时间:1998年07月10日 科幻惊栗手法描写一名天才数学家触目惊心的经历。才华盖世的数学家马斯在过去十年来,发现股票市场在混乱波动背后原来由一套数学模式操...

    华章科技
  • 人工智能在未来商业智能中的作用

    从呼叫中心部署基于AI的聊天机器人到使用深度学习在数秒内分析无数数据点并检测欺诈的银行,当今的企业在很多方面都利用了AI的力量。

    用户4122690
  • 盘点|干数据不容错过的16部电影

    1.死亡密码 英文名称:π 别名:3.14159265358(USA) 发行时间:1998年07月10日 科幻惊栗手法描写一名天才数学家触目惊心的经历。才...

    灯塔大数据
  • 镁客网每周硬科技领域投融资汇总 | 本周未来医疗有明显增长

    镁客网
  • 人工智能在天体物理中的应用

    编者按:从人类诞生的那一刻起,人们对宇宙奥秘的求索就从未停止。今天,天文学已经进入了一个具有多波段、多信使的海量观测数据的黄金时期,人工智能技术将对天文领域产生...

    AI科技评论
  • 【AI发展】看!世界各国都在积极布局人工智能

    人工智能是引领未来的战略性技术,世界主要发达国家将人工智能作为提升本国竞争力的重大战略,围绕顶尖人才和核心技术等进行部署,力争在新一轮的科技竞争中取得主导权,从...

    AiTechYun
  • 哪一种编程语言适合人工智能?——Python在人工智能中的作用

    ? 谷歌的AI击败了一位围棋大师,是一种衡量人工智能突然的快速发展的方式,也揭示了这些技术如何发展而来和将来可以如何发展。 人工智能是一种未来性的技术,目前正...

    小莹莹
  • OpenAI等机构联合发布《人工智能恶意使用》报告

    OpenAI、牛津大学、剑桥大学等14家机构和高校联合发布《人工智能恶意使用:预测、预防和缓解》,调查了恶意应用人工智能技术会造成的潜在威胁,以及预测、预防和减...

    人工智能快报
  • 霍金走了,但他的AI威胁论却值得人类深思

    【数据猿导读】 在当下ALL IN AI的时代,霍金的AI威胁论似乎显得不合时宜,但是若仔细品味,其实也不无道理。技术也许是好的,但是若毫无节制地滥用技术,确实...

    数据猿

扫码关注云+社区

领取腾讯云代金券