前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >pytorch 如何设置 可学习参数

pytorch 如何设置 可学习参数

作者头像
狼啸风云
修改2022-09-02 20:56:41
2.1K0
修改2022-09-02 20:56:41
举报
文章被收录于专栏:计算机视觉理论及其实现

如何根据自己需求设定,可学习参数,并进行初始化。

#比如cnn输出4个东西,你又不想concate到到一起,你想用权重加法,权重又不想自己设定,想让网络自己学

代码语言:javascript
复制
#requires_grad=True这个很重要

#设置前置网络及 可学习参数
self.cnn=cnn_output4()
self.fuse_weight_1 = torch.nn.Parameter(torch.FloatTensor(1), requires_grad=True)
self.fuse_weight_2 = torch.nn.Parameter(torch.FloatTensor(1), requires_grad=True)
self.fuse_weight_3 = torch.nn.Parameter(torch.FloatTensor(1), requires_grad=True)
self.fuse_weight_4 = torch.nn.Parameter(torch.FloatTensor(1), requires_grad=True)
     
#初始化
self.fuse_weight_1.data.fill_(0.25)
self.fuse_weight_2.data.fill_(0.25)
self.fuse_weight_3.data.fill_(0.25)
self.fuse_weight_4.data.fill_(0.25)
     
def forward(x):
    x1,x2,x3,x4=self.cnn(x)
    return fuse_weight_1*x1+fuse_weight_2*x2+fuse_weight_3*x3+fuse_weight_4*x4
本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2020/07/18 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档