专栏首页arxiv.org翻译专栏迈向与价值一致的体系的步骤(Computers and Society)
原创

迈向与价值一致的体系的步骤(Computers and Society)

算法(包括AI/ML)决策工件是我们决策生态系统中已建立和正在发展的一部分。他们现在是不可或缺的工具,帮助我们管理洪水般的信息,我们试图在一个复杂的世界作出有效的决定。当前的文献中充满了关于单个工件如何违反社会规范和期望的例子(例如,违反公平、隐私或安全规范)。在这种背景下,本文的讨论强调了一个未被重视的观点,即研究的重点是评估人工智能装备的社会技术系统中的价值失调。到目前为止,对价值偏差的研究主要集中在单个技术工件的行为上。本讨论主张采用更结构化的系统级方法来评估社会技术系统中的价值一致性。我们主要依靠对公平的研究来使我们的论点更加具体。我们利用这个机会来强调采用系统视角如何提高我们更好地解释和处理价值偏差的能力。我们的讨论以对优先级问题的探索结束,如果我们要确保整个系统的价值对齐,而不仅仅是单个工件,就需要关注这些问题。

原文题目:Steps Towards Value-Aligned Systems

原文:Algorithmic (including AI/ML) decision-making artifacts are an established and growing part of our decision-making ecosystem. They are now indispensable tools that help us manage the flood of information we use to try to make effective decisions in a complex world. The current literature is full of examples of how individual artifacts violate societal norms and expectations (e.g. violations of fairness, privacy, or safety norms). Against this backdrop, this discussion highlights an under-emphasized perspective in the body of research focused on assessing value misalignment in AI-equipped sociotechnical systems. The research on value misalignment so far has a strong focus on the behavior of individual tech artifacts. This discussion argues for a more structured systems-level approach for assessing value-alignment in sociotechnical systems. We rely primarily on the research on fairness to make our arguments more concrete. And we use the opportunity to highlight how adopting a system perspective improves our ability to explain and address value misalignments better. Our discussion ends with an exploration of priority questions that demand attention if we are to assure the value alignment of whole systems, not just individual artifacts.

原文作者:Osonde A. Osoba, Benjamin Boudreaux, Douglas Yeung

原文链接:https://arxiv.org/abs/2002.05672

原创声明,本文系作者授权云+社区发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 高效大容量隐写技术(multimedia)

    表征现代隐写技术的性能指标包括容量(即可以隐藏在覆盖介质中的数据量)、隐写质量(即工件可见性)、安全性(即不可探测性)和强度或健壮性(用于抵抗旨在破坏秘密消息的...

    用户6869393
  • 低延迟容量视频边缘流(Multimedia)

    体视是一种新兴的三维空间和物体沉浸式再现的关键技术。容量视频的增强沉浸性带来了新的用例,比如六自由度视频的流媒体,用户可以自由地改变自己的位置和方向。然而,将容...

    用户6869393
  • 一个有效的许可区块链与可证明的信誉机制(Computers and Society)

    许可区块链,只允许已知节点参与,已广泛应用在政府、公司、研究所等等。我们研究了将许可的区块链应用于横向战略联盟领域的案例,以确保联盟中任何不遵守规则的参与者在事...

    用户6869393
  • 近似模型计数,Sparse XOR约束和最小距离

    摘要:计算给定布尔公式的模型数量的问题具有许多应用,包括计算定量信息流中的确定性程序的泄漏。模型计数是一个很难的#P完全问题。出于这个原因,在过去十年中已经开发...

    罗大琦
  • CONSAC:基于条件样本一致性的鲁棒多模型拟合(CS CV)

    本文提出了一种基于噪声测量的多参数模型的鲁棒估计方法。应用包括在人造场景中寻找多个消失点,将平面拟合到建筑图像中,或在同一序列中估计多个刚性运动。与以往的多模型...

    DANDAN用户6837186
  • 【Codeforces】1213A - Chips Moving

    版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。 ...

    喜欢ctrl的cxk
  • 原创译文 | 美国禁令后中兴不能再购买高通芯片,美国方面解释原因

    转载声明 本文为灯塔大数据原创内容,欢迎个人转载至朋友圈,其他机构转载请在文章开头标注:“转自:灯塔大数据;微信:DTbigdata” 导读:中美贸易战愈演愈烈...

    灯塔大数据
  • 体积正则图的逐步社区检测

    作者:Luca Becchetti,Emilio Cruciani,Francesco Pasquale,Sara Rizzo

    罗大琦
  • numpy.around

    版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。 ...

    于小勇
  • 神经网络思想建立LR模型(DL公开课第二周答案)

    LR回顾 ? LR计算图求导 ? 算法结构 设计一个简单的算法实现判别是否是猫。 用一个神经网络的思想建立一个LR模型,下面这个图解释了为什么LR事实上是一个...

    用户1332428

扫码关注云+社区

领取腾讯云代金券