下降方法:坐标下降、梯度下降、次梯度下降

梯度下降方法是目前最流行的神经网络优化方法,现在主流的深度学习框架都包含了若干种梯度下降算法。虽然我们可以把它们看成黑盒直接使用,但是在不同场合下相同的算法可能有着很大的性能差异,因此,了解这些算法各自内在的原理可以帮助我们更好地训练网络。

·END·

统计学家

统计学·机器学习·人工智能

您的转发支持我们继续前进!

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20180714A08W2900?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。

扫码关注云+社区

领取腾讯云代金券

玩转腾讯云 有奖征文活动