基于XAI方法的模型性能改进
基于XAI方法的模型性能改进
提问于 2022-01-18 02:36:49
我正在学习可解释的人工智能( XAI )，我读过的一些论文说我们可以使用XAI来提高模型的性能。这似乎是一个很新的问题，因为我认为当模型已经收敛时，不可能找到一个新的全局最小值，这与上面的说法相矛盾。我想问一下，是否有任何方法可以改进模型的结果，与XAI方法相关？如果有的话，它们是如何工作的？Tks很多！！
回答 1
Stack Overflow用户
发布于 2022-02-21 16:17:12
XAI方法主要帮助改进基于更好理解和更快调试的模型。因此，作为一名工程师，您可以使用有针对性的措施来改进模型。
据我所知，只有一项科学工作(见下文)在模型的培训过程中直接使用了XAI方法的解释。从本质上讲，本文提出了一种新的推理方法。首先，一个模型做出一个决定。然后，对该决策进行了解释计算。然后，相同(或可能是另一种)模型使用原始输入和解释来做出最终决定，即从某种意义上说，网络反映了它的初始决策和得出最终结论的原因。
“反思性网络:从解释中学习”，Schneider等人著。https://arxiv.org/abs/2011.13986
免责声明:我是这篇论文的发明者和第一作者。
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/70749714
复制相关文章
相似问题
腾讯云开发者
