如何在Pytorch中应用分层学习率？
如何在Pytorch中应用分层学习率？
提问于 2018-08-12 00:27:50
我知道冻结网络中的单层是可能的，例如，只训练预训练模型的最后一层。我正在寻找的是一种将特定的学习率应用于不同层的方法。
例如，第一层的学习率非常低，为0.000001，然后逐渐增加后续每一层的学习率。所以最后一层的学习率是0.01左右。
在pytorch中这是可能的吗？你知道我怎么才能把这个存档吗？
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接：
https://stackoverflow.com/questions/51801648
复制相关文章
相似问题