问可见性与自动编码器
EN

Data Science用户

提问于 2021-06-30 20:59:26

回答 1查看 532关注 0票数 1

假设我有一个自动编码器作为一个两栈的LSTM，它接受一些长度为n的m特性序列。

假设我的编码向量的维度是k，所以这个体系结构的形式是：n \times m \to 1\times k \to n \times m。

我正在研究如何在自动编码器的编码部分构建一些可解释性度量。更特别的是，我想知道哪些特性会影响我所拥有的每个k编码条目。

天真地，一个人可以一次改变一个特性，检查对编码的影响，看看它在哪里是最大的。这既计算昂贵，又忽略了功能的组合。

你知道有什么研究或方法可以帮助吗？

发布于 2021-07-01 16:04:32

特征可视化/反演在这里可能是一个很好的工具。基本上，不是对权重执行优化，而是对输入执行优化，从而使编码向量的每个条目最大化。如果您想变得更漂亮，可以尝试构建一个完整的激活地图集。

解译库也有许多用于模型可解释性的好工具，但它们更适合于有监督的模型。也许还是值得一查的。

票数 1

页面原文内容由Data Science提供。腾讯云小微IT领域专用引擎提供翻译支持

原文链接：

https://datascience.stackexchange.com/questions/97300

复制

相似问题

问可见性与自动编码器EN