梯度下降方法是目前最流行的神经网络优化方法,现在主流的深度学习框架都包含了若干种梯度下降算法。虽然我们可以把它们看成黑盒直接使用,但是在不同场合下相同的算法可能有着很大的性能差异,因此,了解这些算法各自内在的原理可以帮助我们更好地训练网络。
·END·
本文分享自 机器学习与统计学 微信公众号,前往查看
如有侵权,请联系 cloudcommunity@tencent.com 删除。
本文参与 腾讯云自媒体同步曝光计划 ,欢迎热爱写作的你一起参与!