我试着理解这篇文章
https://distill.pub/2017/feature-visualization/我还试着进入代码https://github.com/tensorflow/lucid并查看其他文章和视频
然而,我还是不明白我们如何根据某个神经元来优化输入噪声图像?或者按层次..。当我们试图优化和看到对我们感兴趣的神经元/层的影响时,我们如何“忽略”其他神经元?我们怎么能说“好,生成这个图像,这是优化的神经元/层的激活”?这些生成的图像(表示)如何受到其他神经元的影响(我们能操纵它们吗?)如果是,如何选择其他神经元的作用水平?如果是的话,如果我们能调整前几层中的每一个神经元,每次都看到新的表示,我们如何才能理解?在输入的乘法权值和这个优化值之间有什么不同?有人能分享这方面的信息吗?
对不起,长时间阅读和“神经元”字
发布于 2021-12-27 13:03:17
好了,我找到了https://github.com/greentfrapp/lucent https://github.com/Mayukhdeb/torch-dreams
如果我正确地理解了pytorch,这更容易实现,因为register_backward_hook函数为您提供了检索层输出的简单方法.
https://stackoverflow.com/questions/70487467
复制相似问题