1回答
多个数据集的批规范化？
、、、、
我正在做一个生成合成数据的任务，以帮助我的模型的培训。这意味着训练是在合成+真实数据上进行的，并在真实数据上进行测试。我被告知，批量归一化层可能试图在训练时找到对所有人都有好处的权重，这是一个问题，因为我的合成数据的分布并不完全等于实际数据的分布。因此，我们的想法是拥有不同的批次归一化层的权重
浏览 0提问于2021-07-29得票数 0
我想创建一个简单的PyTorch神经网络，它的权重之和等于1。为了理解我的问题，这里给出一个例子： ?
浏览 31提问于2021-09-07得票数 0
回答已采纳
1回答
如何处理多个数据集的批量归一化？
、、、、
我正在处理一项生成合成数据的任务，以帮助训练我的模型。这意味着训练是在合成+真实数据上执行的，并在真实数据上进行测试。有人告诉我，批量归一化层在训练时可能会试图找到对所有人都有利的权重，这是一个问题，因为我的合成数据的分布与实际数据的分布并不完全相等。因此，我们的想法是让批归一化层的权重有不同的“副本”。因此，神经网络<
浏览 2提问于2021-08-27得票数 1
一些TensorFlow层(如和 )接受一个kernel_constraint参数，根据，该参数实现了
可选的投影函数，在被优化器更新后应用于内核(例如，用于实现层权的范数约束或值约束)。提出了一种称为权值归一化的神经网络归一化技术，该技术对网络层的权向量进行规范化，而批归一化则对通过该层的实际数据批进行规范化。在某些情况下，权重归一化方法的计算开销较低，在批处
浏览 1提问于2018-07-15得票数 7
1回答
我是Pytorch的新手，也是自学的新手，我想创建一个接受有向图的ANN。我还希望将每个连接的预定义权重和偏差传递给它，但现在愿意忽略它。我对这些条件的动机是，我正在尝试实现NEAT算法，该算法基本上是使用遗传算法来进化网络。我想的代码是： class Net(torch.nn.Module): super(Net, se
浏览 12提问于2020-03-10得票数 1
2回答
我正在用pyTorch编写一个简单的神经网络，其中的特征和权重都是(1，5)张量。我在下面提到的这两种方法有什么不同？
浏览 2提问于2018-11-27得票数 4
回答已采纳
1回答
使用固定权重构建卷积层很简单，只需将权重内核传递给conv2d()即可。并且可以方便地加载预先训练好的模型，如VGG19。但我发现使用pytorch不是这样的，因为conv2d()不接受显式的内核，而是接受内核大小。所以我想知道，我们是否可以通过简单地将权重传递给像conv2d()这样的方法来重用VGG19中的权重。
浏览 4提问于2017-09-18得票数 1
1回答
首先，我有一个列表列表。 每一对都对应于变量x和y。我的问题是，如何对变量x和y进行归一化，以便获得归一化的输入，然后使用Dataloader将其提供给我的神经网络。也许我应该通过从列表列表中排除变量x来获得x=1,1,1,2,0,3，这与y=2,3,4,5,3,5相同，然后对其进行标准化，并从标准化向量再次创建列表列表？或者，在pytorch中有没有更简单的方法？torch.ut
浏览 35提问于2020-12-16得票数 0
2回答
考虑使用PyTorch实现线性回归的下列代码： print(f'epoch {epoch+1}: w = {w.item():.3f}, loss = {l.item():.8f}')
“with”块是做什么的？W的requires_grad参数已经设置为True。为什么会把它放在with torch.no_grad()块下呢？
浏览 27提问于2022-06-05得票数 4
(举个例子)在实现noutput目标值的简单线性模型时，将其作为pytorch中的神经网络：(打电话)returnyoptimizer.add_hook(optimizer.WeightDecay(rate=0.01))
对于从所有ninput输入单元到noutput输出单元之一的<
浏览 1提问于2018-04-22得票数 0
回答已采纳
我试图用 (而不是PyTorch )实现TensorFlow中的CSRA模块，使用MobileNetV3作为特性提取器。我只精通TensorFlow，在从PyTorch到TensorFlow的翻译中遇到了一些困难。
实现该模块的使用了一些在TensorFlow中不常用的函数，而those为这些函数提供的帮助很少。TensorFlow中获得一个TensorFlow。我目前面临的问题似乎是，head.g
浏览 2提问于2022-05-23得票数 0
我正在用Pytorch编写序列神经网络的序列。在official Pytorch seq2seq tutorial中，有一个注意力解码器的代码，我不能理解/认为可能包含错误。它通过连接输出和此时的隐藏状态来计算每个时间步的注意力权重，然后乘以一个矩阵，得到一个大小等于输出序列长度的向量。注意，这些注意力权重不依赖于编码器序列(在代码中命名为encoder
浏览 37提问于2019-05-03得票数 1
也许很多人已经看过谷歌研究的这篇文章：
我想做一些类似的事情，只是为了看看它是如何工作的，也许将来可以用它来更好地理解是什么使我的网络失败好吧，假设我在诺尔学习里建造了一个安，有一些建筑，我也受过一定程度的训练。但是..。接下来该怎么办？我从他们的文章里听不到。他们似乎不只是想象一些特定层次的权重。在我看来(也许我错了)他
浏览 2提问于2015-07-02得票数 1
回答已采纳
1回答
加权均值和方差的更新
、、、、
我试着从论文神经网络中的权重不确定性的反推算法来理解贝叶斯，其思想是建立一个神经网络，其中每个权重都有它自己的概率分布。我明白这一理论，但我不明白如何更新学习部分的均值和方差。我在Pytorch中找到了一个代码，它简单地做到了：def __init__(self, in_features, out_features
浏览 0提问于2021-04-14得票数 1
1回答
我正在用pytorch训练一个神经网络，我想在每一次迭代中保存权重。换句话说，我想要创建一个列表，其中包含了神经网络在训练过程中拥有的所有权重。weight = model.fc2.weight.detach().numpy()然后，当我打印列表‘When _ list’的条目时，我注意到它们都是相同的，这不可能是真的，因为我已经在培训期间打印了<e
浏览 2提问于2019-11-08得票数 1
回答已采纳
1回答
我正在为一个经常遇到丢失数据的模型编写代码。pytorch (或tensorflow，因为我还没有写代码，所以也没问题)中有没有一个选项可以只计算/更新现有数据的梯度和权重？实际上，这是从一个最大的神经网络中提取一个较小的神经网络。
浏览 0提问于2018-04-10得票数 0
2回答
学习
在您所使用的代码中，您已经显式地设置了过滤器权重的值，但是神经网络在对一组图像数据进行训练时实际上将学习最佳的过滤器权重。在本节的后面，您将了解到这类神经网络的所有情况，但您知道高通和低通过滤器是定义这种网络行为的原因，并且您知道如何从零开始编写这些代码！在实践中，您还会发现许多神经网络学习检测图像的边缘，因为对象的边缘包含关于对象形状<e
浏览 2提问于2018-12-31得票数 1
回答已采纳
我目前正在使用PyTorch来训练神经网络。我使用的数据集是一个具有大量0的二进制分类数据集。我决定尝试使用PyTorch的交叉熵损失的weight参数.通过sklearn.utils.class_weight.compute_class_weight计算权重，得到[0.58479532, 3.44827586]的权重值。当我将这个class_w
浏览 6提问于2022-05-27得票数 0
云服务器
ICP备案
实时音视频
即时通信 IM
对象存储
腾讯云开发者
