首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

深度学习中训练参数的调节技巧

1、学习率

步长的选择:你走的距离长短,越短当然不会错过,但是耗时间。步长的选择比较麻烦。步长越小,越容易得到局部最优化(到了比较大的山谷,就出不去了),而大了会全局最优

重要性:学习率>正则值>dropout

学习率:0.001,0.01,0.1,1,10 …….以10为阶数尝试

小数据集上合适的参数大数据集上一般不会差,可以先减少训练类别。

转自:大数据挖掘DT数据分析

  • 发表于:
  • 原文链接http://kuaibao.qq.com/s/20180208B1FDKE00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券