深度学习中训练参数的调节技巧
1、学习率
步长的选择：你走的距离长短，越短当然不会错过，但是耗时间。步长的选择比较麻烦。步长越小，越容易得到局部最优化（到了比较大的山谷，就出不去了），而大了会全局最优
重要性：学习率>正则值>dropout
学习率：0.001，0.01，0.1，1，10 …….以10为阶数尝试
小数据集上合适的参数大数据集上一般不会差，可以先减少训练类别。
转自：大数据挖掘DT数据分析
- 发表于:
- 原文链接：http://kuaibao.qq.com/s/20180208B1FDKE00?refer=cp_1026
- 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号（企鹅号）传播渠道之一，根据《腾讯内容开放平台服务协议》转载发布内容。
- 如有侵权，请联系 cloudcommunity@tencent.com 删除。
相关快讯
扫码
添加站长 进交流群
领取专属 10元无门槛券
私享最新 技术干货
腾讯云开发者
