模型可视化十分重要,前文我们介绍了 CAM ,但是 CAM 本身存在一些限制,Grad CAM 作为 CAM 的扩展技术可以在限制更宽泛的条件下使用,本文介绍 Grad CAM。
论文中认为 Grad CAM 是对 CAM 的泛化扩展,讨论了Grad-CAM和类激活映射(CAM)之间的联系,并正式证明Grad-CAM可以将CAM推广到各种基于CNN的体系结构中。
该方法作为 CAM 的扩展,为可用性场景和实现方式上都提供了更大的方便,但是我们(由
华哥
率先提出)认为结果的可靠性和有效性是建立在一些条件基础之上的,而且理论来源也没有十分明确
其中 o((F-F_0)^2) 为二阶无穷小量
$$ b^c_k=Y^c-\frac{\partial Y^{c}}{\partial F^{k}}F_0 $$
$$ \frac{\partial Y^{c}}{\partial F^{k}}F_0=Y^c $$
此处和论文中的计算方法有些出入,供大家参考,如有错误烦请指正
Grad CAM 带来了使用范围的拓展,相应的会承受相关的代价