专栏首页arxiv.org翻译专栏领域级可解释性——在超人人工智能策略中建立信任的挑战(CS AI)
原创

领域级可解释性——在超人人工智能策略中建立信任的挑战(CS AI)

对于复杂的战略视频游戏,基于深度强化学习(DRL)的智能系统展示了令人印象深刻的学习解决方案的能力,可以超越人类的能力。虽然这可能会为开发具有突破性功能的援助系统创造新的机会,但将这一技术应用于现实世界的问题会带来巨大的困难,因此需要信任和透明度。与其他人工智能系统相比,复杂的超人策略是非直观的,难以解释。现实场景中典型的经验绩效评估通常是不可能的。可解释人工智能(XAI)已经通过各种措施提高了现代人工智能系统的透明度,但是,研究还没有为DRL系统的专家用户在战略形势下提供领域级的见解的解决方案。在这份立场文件中,我们讨论了基于DRL的超人策略的存在、它们的属性、将它们应用于现实世界环境的要求和挑战,以及在域级别作为实现信任的关键要素的可解释性的需要。

原文题目:Domain-Level Explainability – A Challenge for Creating Trust in Superhuman AI Strategies

原文:For complex strategic video games, intelligent systems based on Deep Reinforcement Learning (DRL) have demonstrated an impressive ability to learn solutions that can go beyond human capabilities. While this might create new opportunities for the development of assistance systems with groundbreaking functionalities, applying this technology to realworld problems carries significant risks and therefore requires trust and transparency. Compared to other AI systems complex superhuman strategies are non-intuitive and difficult to explain. A representative empirical performance evaluation in real-world scenarios is often impossible. Explainable AI (XAI) has improved the transparency of modern AI systems through a variety of measures, however, research has not yet provided solutions enabling domain-level insights for expert users of DRL systems in strategic situations. In this position paper, we discuss the existence of superhuman DRL-based strategies, their properties, the requirements and challenges for applying them to real-world environments, and the need for explainability at the domain-level as a key ingredient to enable trust.

原文作者:Jonas Andrulis1, Ole Meyer, Gregory Schott ´ , Samuel Weinbach1 , Volker Gruhn

原文地址:https://arxiv.org/pdf/2011.06665.pdf

原创声明,本文系作者授权云+社区发表,未经许可,不得转载。

如有侵权,请联系 yunjia_community@tencent.com 删除。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 基于图论的分布式网格恢复(CS SC)

    随着智能电网作为广域配电的主要手段的出现,提高其故障和灾难恢复能力的重要性日益增加。配电系统的可靠性取决于其对攻击的容忍度和攻击发生后的恢复效率。本文提出了一种...

    识檐
  • 面向低资源语言的情感分析器(CS AI)

    Twitter是最受影响的社交媒体之一,拥有数百万活跃用户。它通常用于微博,允许用户分享消息、想法、想法等。因此,数以百万计的互动,如短信或推特,在推特用户之间...

    识檐
  • 保守性降低的非线性模型的线性变参数嵌入(CS SC)

    本文提出了一种将非线性系统的动力学描述嵌入到线性参数变化(LPV)系统表示中的系统方法。最初,模型表示中的非线性函数使用多元多项式回归来近似。考虑到近似的残差作...

    识檐
  • 探索乐趣者在虚拟派对上狂欢

    虽然最初是孤立的,但冠状病毒大流行已经催生了一个全新的数字派对和聚会世界。被困在家中的人正在寻找创新的社交方式,参与从虚拟啤酒品尝到在线读书俱乐部会议等一切活动...

    zstt8054929
  • 李开复图灵奖推荐信曝光:AI时代里,Hinton是最值得嘉奖的人

    3月27日,2018年图灵奖嘉奖正式揭晓:深度学习三巨头Yoshua Bengio、Geoffrey Hinton,Yann LeCun一起荣膺计算机领域的最高...

    量子位
  • 无约束多视点视频中动态事件的4D可视化(CS CV)

    我们提出了一种基于数据驱动的手持式多摄像机动态事件4D时空可视化方法。我们方法的关键是使用特定于场景的自监督神经网络来组成事件的静态和动态方面。虽然从离散的视角...

    蔡秋纯
  • Rapid Convergence: 医疗保健危机期间制作个人防护设备的结果 (CS)

    美国国立卫生研究院3D打印交易所是一个公共和开源的资源库,主要是3D打印医疗设备设计,由专家业余制造者、来自工业界和学术界的工程师以及临床医生贡献。为了应对CO...

    管欣8078776
  • Point-to-Point Communication in Integrated Satellite-Aerial Networks: State-of-t

    Point-to-Point Communication in Integrated Satellite-Aerial Networks: State-of-t...

    用户8078797
  • 步进式的框架解释如何解决约束满足问题(CS AI)

    我们以逻辑网格难题的用例探讨逐步解释如何解决约束满足问题的问题。更具体地说,我们研究一种以易于理解的方式解释传播过程中可以采取的推理步骤的问题。因此,我们旨在为...

    刘子蔚
  • Flink Forward 2019--实战相关(14)--Arctic Wolf Networks分享事件流攻击

    Hunting for Attack Chains in Event Streams -- Ray Ruvinskiy(Arctic Wolf Networks...

    阿泽

扫码关注云+社区

领取腾讯云代金券