腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
在
pytorch
中conv的默认
权重
初始化
器是什么?
、
问题展示了如何在
Pytorch
中
初始化
权重
。但是,Conv和Dense在
Pytorch
中的默认
权重
初始化
器是什么?
Pytorch
使用什么发行版?
浏览 0
提问于2018-04-13
得票数 15
回答已采纳
1
回答
Keras:模仿
PyTorch
的conv2d和线性/密集权
初始化
?
、
、
我正在将模型从
PyTorch
移植到Keras/Tensorflow,并且我希望确保使用相同的算法进行
权重
初始化
。如何在Keras中模拟
PyTorch
的权值
初始化
?
浏览 16
提问于2022-05-10
得票数 0
回答已采纳
1
回答
pytorch
-在
pytorch
和keras中实现相同的模型,但得到不同的结果
、
我正在学习
pytorch
,并想用一个seq2seq示例()来练习它,这是一个keras 101示例,它在字符级别的特征(没有嵌入)上将eng转换为fra。print('Input sentence:', input_texts[seq_index])我想用
pytorch
.to(device) # encoder_loss = nn.CrossEntropyLoss() # CrossEntropyLoss compute
浏览 4
提问于2019-08-10
得票数 0
1
回答
匹配
PyTorch
w/ CNTK (VGG on CIFAR)
、
、
、
、
我试图了解
PyTorch
是如何工作的,并希望复制CNN关于CIFAR的简单培训。脚本经过168秒的训练(10次)后,达到了0.76的精度,这与我的脚本类似( 153秒后的0.75精度)。我明白,由于随机权
初始化
等原因,我会得到精度上的差异。然而,不同框架之间的差异要比框架内的差异大得多,在运行之间随机
初始化
。我能想到的原因是: MXNet和CNTK被
初始化
为xavier/glorot制服;不确定如何在
PyTorch
中做到这一点,因此可能将
权重
初始化
为0。默
浏览 7
提问于2017-08-17
得票数 1
1
回答
如何将Keras h5格式转换为
PyTorch
pth格式?
、
、
我在Keras中训练了一个特征提取器,并将
权重
保存为一个h5文件。现在,我希望将相同的
权重
加载到在
PyTorch
中创建和
初始化
的相同模型中,以便进行性能比较。有没有办法将h5文件转换为pth文件,以便将其加载到
PyTorch
模型中?
浏览 0
提问于2019-08-04
得票数 3
2
回答
在
PyTorch
中,如何在默认情况下
初始化
层
权重
和偏移?
、
、
我想知道如何在默认情况下
初始化
层
权重
和偏差?例如,如果我创建线性层torch.nn.Linear(5,100),该层的
权重
和偏差是如何默认
初始化
的?
浏览 0
提问于2018-01-31
得票数 8
2
回答
自定义
权重
初始化
导致错误-
pytorch
、
、
optimizer.step() m.weight.data.normal_(0.0, 1) 但会抛出以下错误: ~/anaconda3/envs/
pytorch
/lib/python3.7def __setattr__(self, name, value): AttributeError
浏览 89
提问于2019-02-28
得票数 0
回答已采纳
2
回答
RuntimeError:应为torch.DoubleTensor类型的对象,但发现参数#2的类型为torch.FloatTensor
object of type torch.DoubleTensor but found type torch.FloatTensor for argument #2 'weight'非常感谢!
浏览 2
提问于2018-03-21
得票数 32
回答已采纳
1
回答
PyTorch
模型层
权重
是如何隐式
初始化
的?
、
、
我基本上用
PyTorch
定义了一个带有Conv2D和线性层的模型,并用一个样本数据集对其进行了训练。该模型似乎运行并收敛。但我想知道我没有显式
初始化
模型层
权重
(normal或Xavier)。这是否意味着当我在每个时期训练之前调用model.train()时,层
权重
将在默认情况下随机
初始化
?如果是这样,我如何显式地更改
初始化
的类型?
浏览 2
提问于2021-01-07
得票数 1
1
回答
如何将角煤油LSTM转换为?
、
我有一个用Keras编写的非常简单的LSTM示例,我正试图将其移植到
pytorch
。但它似乎根本无法学习。我是一个绝对的开始,所以任何建议都是值得感激的。
PYTORCH
X_train_tensor的形状与角蛋白(1691,1,1)相同。我在下面指定batch_first为真,所以我认为应该可以。
浏览 0
提问于2019-05-10
得票数 1
1
回答
在
Pytorch
中创建具有固定
权重
的线性模型
、
、
我想在
PyTorch
下创建一个具有单层的线性网络,但我希望手动
初始化
权重
并保持固定。例如,模型的
权重
值: layer = nn.Linear(4, 1, bias=False) [0.25],
浏览 47
提问于2021-09-20
得票数 0
回答已采纳
1
回答
是否可以停止机器学习训练,稍后再继续?
、
、
、
我现在要做的是GAN。事实上,我们不知道CNN和RNN对GAN做了什么,而且由于计算环境是个人的,我们正在开发一个付费版本的"Google Colab“。我知道Google Colab可以使用开发环境长达24小时(不完全是24小时)。 结果,机器学习需要一些时间,而且在中间被切断了,到目前为止,我被迫使用可以在24小时内训练的数据集和纪元进行学习,突然我想,“我们不能积累训练吗?” 所以我的问题是,举个例子,如果我最多训练了100个时期,但只有50次就被切断了,那么我不能在下一次训练中从50开始吗?如果我们能做到这一点,难道不可能进行长时间的训练,因为Google Colab可以每2
浏览 5
提问于2020-08-18
得票数 0
回答已采纳
2
回答
PyTorch
中的自定义
权重
初始化
、
在
PyTorch
中实现custom weight initialization方法的正确方式是什么 我相信我不能直接将任何方法添加到'torch.nn.init`中,但希望用我自己的专有方法
初始化
我的模型的
权重
浏览 3
提问于2018-07-02
得票数 9
2
回答
什么是第一次
初始化
重量在喷炬卷积层
、
、
、
学习
PyTorch
如何更新卷积层中的
权重
?
浏览 2
提问于2018-12-31
得票数 1
回答已采纳
1
回答
回转面变压器中转换型放电筒模型的合理加载
、
、
、
、
我使用以下功能将一个经过预先训练的tf模型转换为
pytorch
。def convert_tf_checkpoint_to_
pytorch
(*, tf_checkpoint_path, albert_config_file,
pytorch
_dump_path):print("Save
PyTorch
model to {}".format(
pytorch
_dump_path)) torch.save(model.state_dict(),
pytorch
_du
浏览 3
提问于2020-08-29
得票数 0
2
回答
Pytorch
模拟在未
初始化
为0的情况下无法收敛于凸损失函数
、
、
当
权重
初始化
为0时,我的代码可以正常工作。当我根据某个种子
初始化
它们时,它们无法收敛。这应该是一个错误,因为损失函数是凸的。我从MNIST中筛选出两个标签(0和1),然后使用
pytorch
训练逻辑回归模型。由于我只使用了200个训练样本(和784个参数),因此模型在训练集上应该很快收敛到100%的准确率。当
权重
通过某些种子进行
初始化
时,情况并非如此。 我在stackoverflow上分享我的代码时遇到了一些问题,所以这里有一个代码的链接:
浏览 2
提问于2019-10-25
得票数 0
1
回答
如何加载部分预训练的
pytorch
模型?
、
、
、
、
我正在尝试让
pytorch
模型运行在句子分类任务上。如何从ClinicalBert模型加载预训练的Bert
权重
,而不加载分类
权重
?我目前尝试替换
pytorch
_pretrained_bert包中的from_pretrained函数,并像这样弹出分类器
权重
和偏差: def from_pretrained(cls, pretrained_model_name我得到了以下错误信息: INFO - modeling_diagnosis - BertForMultiLabelSequenceClassificati
浏览 94
提问于2020-04-14
得票数 6
1
回答
有没有办法确定
PyTorch
型号是在cpu上还是在设备上?
、
、
我想弄清楚,
PyTorch
模型是在cpu上还是在cuda上,以便根据模型将其他变量
初始化
为Torch.Tensor或Torch.cuda.Tensor。对于
PyTorch
张量,有is_cuda属性,但没有对整个模型的模拟。 有没有某种方法可以推断出模型的这一点,或者需要参考特定的
权重
?
浏览 6
提问于2021-01-29
得票数 1
1
回答
MNIST上SGD+momentum v/s SGD的误差比较
、
、
我正在从事一个玩具项目,以比较SGD和SGD+momentum优化器在MNIST数据上的性能。为此,我创建了两个单元格块,一个用于SGD:optimizer = optim.SGD(net.parameters(), lr=0.001, momentum=0) for i, data in enumerate(trainloader, 0): op
浏览 9
提问于2022-01-12
得票数 0
1
回答
如何在训练后向神经网络模型添加更多神经元/过滤器?
、
、
我感兴趣的是在
PyTorch
中训练一个CNN模型和一个简单的线性前馈模型,并在训练之后将更多的滤波器添加到CNN层和神经元-线性模型层和两者的输出(例如,从二分类到多类分类)。通过添加它们,我的具体意思是保持训练的
权重
不变,并将随机
初始化
权重
添加到新的传入
权重
中。 这里有一个CNN模型的例子和一个简单的线性前馈模型的例子。
浏览 18
提问于2021-02-26
得票数 2
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
通过方差分析详解最流行的Xavier权重初始化方法
为什么我们一定要用随机权重初始化神经网络
《DevOPS》-项目初始化
网站权重是什么?如何快速提升权重
Pytorch神器
热门
标签
更多标签
云服务器
ICP备案
实时音视频
云直播
对象存储
活动推荐
运营活动
广告
关闭
领券