问可解释的机器学习和可解释的机器学习有什么区别？

EN

我发现了本文作者是辛西娅·鲁丁，它更详细地说明了这两个术语之间的差异，这与O‘’Rourke的来源一致。

其核心是关于解释的时间和机制：

先验(可解释)与后验(可解释)

我发现这句话很有帮助，并与我自己的想法一致(强调我的观点)：

与其试图创建具有内在可解释性的模型，最近还出现了大量关于“可解释的ML”的工作，其中创建了第二个(后自定义)模型来解释第一个黑匣子模型。这是有问题的。解释往往不可靠，并可能误导，正如我们在下面讨论。如果我们使用内在可解释的模型，它们会提供自己的解释，这些解释忠实于模型实际计算的内容。

简而言之，一个可解释的模型能够输出人类可以理解的计算摘要，使我们能够理解它是如何得出具体结论的。正因为如此，一个人才能通过选择特定的输入来创造一个特定的理想结果。

然而，一个“仅仅”可解释的模型并不能提供这种输入，我们需要第二个模型或检查模式来创建一个“关于其机制的假设”，这将有助于解释结果，但不允许手工确定地重建结果。

至于解释，我们需要每个层次的可解释性/可解释性-

• 数据解释- tsne，简单的绘图。
• 模型可解释性-通过创建代理模型
• 全局可解释性-所有训练数据的特征重要性
• 局部可解释性-对每个预测的解释。

虹膜数据集上所有类型的可解释性，看一看都会很有趣。

我自己对每天都会出现的与xai相关的新词感到困惑(即使在开发了我们自己的xai框架之后)。考虑可理解性和可解释性指的是同一件事。人们只给了不同的名字。

可解释机器学习是人工智能的研究领域。它由可解释的模型组成。可以说，两者的区别在于，一个是工具，另一个是研究领域。

简单地说，可解释机器学习是用来解决可解释机器学习领域中存在的问题的工具。

要定义你的答案:一个人应该使用一个可解释的模型来帮助“解释”模型，并解释为什么模型会给出具体的结果。

详细说明:假设你需要cnn来分类图片中是否有狗。cnn的架构将是机器学习问题的一个可解释的方面。而显示cnn输出和焦点的最终显着性图或热图将是其可解释的部分。