人工智能模型的语义解释能力研究

原文题目：On the Semantic Interpretability of Artificial Intelligence Models

摘要：人工智能模型正变得越来越强大和准确，支持甚至取代人类的决策。但是，随着功能和准确性的提高，也带来了更高的复杂性，使得用户很难理解该模型是如何工作的，以及其预测背后的原因是什么。人类必须解释和证明他们的决定，在这个过程中支持他们的人工智能模型也是如此，使语义解释成为一个新兴的研究领域。在本工作中，我们从更广泛的角度来看待可解释性，超越了机器学习的范围，涵盖了分布语义和模糊逻辑等不同的人工智能领域。我们根据模型的性质对模型进行检查和分类，并根据它们如何引入可解释特性，分析每种方法如何影响最终用户，并指出仍然需要解决的差距，以提供更多以人为中心的可解释性解决方案。

原文地址：https://arxiv.org/abs/1907.04105

作者：Vivian S. Silva, André Freitas, Siegfried Handschuh