前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >运用SGD提高网络性能

运用SGD提高网络性能

作者头像
算法与编程之美
发布2022-10-28 13:48:47
4210
发布2022-10-28 13:48:47
举报

1 问题

在深度学习的过程中,一个不经过任何训练的网络的性能准确率很低,并没有达到预想中的程度,那么应该如何提高网络性能?如何让准确率达到较高的程度呢?

2 方法

在没有任何训练的准确率普遍只有10%左右,而我们就在想,如何让模型训练一下,会有怎样的结果呢?通过网上的资料发现,优化算法能改善训练方式,来最小化损失函数,随机梯度下降算法SGD就是一个非常不错的方法,SGD对每个训练样本进行参数更新,每次执行都进行一次更新,且执行速度更快。

optimizer=torch.optim.SGD(net.parameters(),lr=1e-3)

通过一次训练的模型准确率有较大的提升,能普遍达到

60%左右,看来SGD优化算法对于模型的准确率提升不错。

3 结语

针对提高网络性能,提高模型预测准确率,我们运用了SGD方法,然后训练一次之后,发现预测率之前普遍的10%左右提高到了60%左右,证明该方法是有效的,但是本次实验并没有进行多次训练,未来我们可以继续研究多次训练之后的模型的预测准确率是否有更进一步的提高。

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2022-10-06,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 算法与编程之美 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档