1回答
如何为每个批次隐含不同的损失函数
、、、、
在得到this question的回复后，我意识到我有一个不同的问题。 我希望根据我在训练步骤中通过的批次来获得不同的目标组件。假设我的批量大小是1，并且我将每个训练数据与不属于训练步骤的两个支持向量相关联。因此，我需要找出当前正在处理输入向量的哪一部分。feature中的第一个点。output_layer = Dense(2)(hidden_layer)
mo
浏览 12提问于2021-09-03得票数 2
1回答
我有一个自定义的损失函数，它为批次中的每个样本返回一个数字(因此，长度=批次大小的向量)。我如何还可以指定自定义的减少方法，以将这些样本损失聚合为整个批次的单个损失？在自定义损失函数中包含此减少，并让此函数仅返回单个标量而不是损失向量，这是可以接受的吗？
浏览 28提问于2021-10-14得票数 0
2回答
如何在多类图像分类中获得权值图
、、、、
我训练的网络给了我很好的预测，但无法分离接触的对象，这就是为什么我想使用具有"weights"参数的softmax_cross_entropy损失函数。知道我的y_true形状是(batch-size,128,128,3)，我如何计算这些权重？
浏览 0提问于2019-04-18得票数 2
1回答
损失在迭代中不断增加
、、、
我只是对以下几点有点困惑:我正在训练一个神经网络，并让它打印出损失。我正在训练它超过4次迭代，只是为了尝试它，并使用批处理。我通常认为损失函数是抛物线，损失将减少到一个最小点，然后再次增加。但随着迭代的进行，我的损失会不断增加。 例如，假设每个迭代中有100个批次。在迭代0中，损失开始于26.3点(批次0)，并上升到1500.7 (批次100)。我正在遵循spacy (https:
浏览 23提问于2020-01-22得票数 0
回答已采纳
然而，每个数据样本都是标准化的(/maxVal)，我需要在损失函数之前对其进行反标准化/反标准化。我不知道如何从生成器中同时输出这些辅助数据作为一批(X，Y)？
浏览 0提问于2020-03-05得票数 0
1回答
数据并行性对训练结果的影响
、、、、
一种解决方案是每个GPU运行一个模型，每个GPU都有自己的数据批，并在每次训练迭代之后组合它们的权重。换句话说，“数据并行”。例如，如果我使用两个GPU，与它们并行训练，然后组合它们的权重，那么与在一个GPU上进行这两个数据批的训练相比，产生的权重不应该是不同的吗？因为两个GPU具有相同的输入权重，而单个GPU为第二批修改了权重。
这种差异仅仅是边际的，因此与多次迭代后的最终结果无
浏览 4提问于2016-11-17得票数 3
回答已采纳
我在寻找构建keras模型架构的最佳实践的建议/示例。 我一直在摸索Model()子类和函数模型的各种迭代，但没有能够连接所有的点。模型应该有自定义指标和相关的损失，其中-by:在训练期间，指标是按批次计算的，在每个时期结束时，最终指标/损失是根据批次计算的平均值计算的。在我看来，除了一个平均每个批次结果<e
浏览 27提问于2020-12-21得票数 2
回答已采纳
我在中读到，keras自定义损失函数必须为每个批处理项返回一个标量。谢谢!
浏览 0提问于2018-08-30得票数 5
回答已采纳
学习者，如您所见，损失是两个mse的加权和，分别为新样本和重放样本计算。，这意味着每当我想训练一个批时，我想分离新的和重放数据点，并计算整个批的标量损失。
如何在Keras中实现此丢失函数并与train_on_batch一起使用？Keras的train_on_batch方法似乎分别用损失函数计算小批中每
浏览 7提问于2021-01-04得票数 0
我用Keras编写了一个自定义的丢失函数，只是被以下内容绊倒了：我关心的是整个批次的累计损失，而不是每个项目的损失，不是吗？
浏览 3提问于2017-03-20得票数 2
回答已采纳
2回答
当我损失和迭代次数时，在每一个时代之后，损失都会有一个显著的跳跃。实际上，每个迷你批次的损失应该各不相同，但是Keras计算的是小批的移动平均损失，这就是为什么我们获得了一条平滑的曲线而不是任意的曲线。移动平均线的阵列在每一个时代之后都会被重置，因此我们可以观察到损失的跳跃。
我想删除移动平均的功能，相反，我想
浏览 4提问于2022-04-29得票数 1
回答已采纳
2回答
我试图影响这篇文章：具体地说，就是第2节中的等式(3)。在找了很长一段时间后，我仍然不能弄清楚以下几点：
1)如何将批次分为正对(即相同的标签)和负对。因为张量是不可迭代的，所以我不知道如何得到哪个样本有哪个标
浏览 0提问于2016-05-27得票数 14
回答已采纳
我使用谷歌预先培训的和替代的最后一层分类。在训练中，我遇到了很多问题，我的交叉熵损失变成了nan.After尝试不同的东西(降低学习率，检查数据等)。结果发现，训练批次大小过高。把培训批次从100件减少到60件，解决了这个问题。你能给出一个解释为什么太大的批次大小导致这个问题与交叉熵损失函数？此外，是否有一种方法可以克服这一问题，以处理更高的批处理大小(有一篇论文
浏览 0提问于2018-03-01得票数 3
我想用keras的预训练模型进行迁移学习from tensorflow import keras
使用keras编译/拟合函数进行训练可以收敛keras.losses.SparseCategoricalCrossentropy()
浏览 0提问于2019-07-30得票数 1
3回答
我在训练一个模特
由于有7个分布均匀的类，随机押注分类的准确率为14 %(1/7约为14 %)。奇怪的是，它只在批次大小为2的情况下学习，16、32或64的批处理大小根本不学习。现在更奇怪的是，如果我拿起训练过的网的检查点(准确率40 %，训练的批次为2
浏览 2提问于2016-11-08得票数 3
如何为PyTorch编写自定义丢失函数(在本例中为PyTorch)，该函数的行为与其他损失类似，如backwards()
浏览 28提问于2022-06-25得票数 0
回答已采纳
我正在尝试训练一个具有两个数据集的cnn。我希望能够在每个批次中提供来自第一个数据集的一些数据和来自第二个数据集的一些数据，并且每个数据集具有不同的相应损失函数。我读过一些文章，如果神经网络有两个头，这是可能的，但我不确定如何在同一个神经网络上用一个输出做两个损失的两个数据集。如果有一些现有的例子，我也会对使用pytorch持开放态度。
浏览 1提问于2019-06-26得票数 0
2回答
Keras是否有一个内置的方法来输出(以及后来的绘图)在单个时代的训练过程中的损失演变？
通常使用函数keras.callbacks.History()的方法可以输出每个时期的损失。然而，在我的例子中，训练集相当大，因此我要将一个时代传递给NN。既然我想画出训练过程中训练(和开发)损失的演变过程，有什么方法可以做到吗？我目前正在解决这个问题，方法是将训练集划分成<
浏览 0提问于2018-09-06得票数 8
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
