可解释性人工智能（Xai）研究：对医学Xai的展望

原文题目：A Survey on Explainable Artificial Intelligence (XAI): Towards Medical XAI

摘要：近年来，人工智能尤其是机器学习在从图像处理到自然语言处理等多项任务中表现出了显著的效果，尤其是随着深度学习的到来。随着研究的进步，机器学习已经渗透到许多不同的领域和学科。其中一些问题，如医疗领域，需要高度的问责性和透明度，这意味着我们需要能够解释机器的决定、预测和证明它们的可靠性。这需要更好的可解释性，这通常意味着我们需要理解算法背后的机制。不幸的是，深入学习的黑匣子性质仍未解决，许多机器决策仍然很难理解。我们对不同的研究作品所建议的可解释性进行了回顾，并对它们进行了分类，目的是为将来采用可解释性标准提供更易于接受的替代视角。我们进一步探讨了可解释性在医学领域的应用，说明了可解释性问题的复杂性。

原文地址：https://arxiv.org/abs/1907.07374

作者：Erico Tjoa