我在训练中使用了交叉熵和单热点真值标签的Tensorflow分类器。这是否容易受到虚拟变量陷阱的影响？如果是这样，我是否应该删除其中一个类？如果不是，那么tf.nn.softmax_cross_entropy_with_logits是否对虚拟变量陷阱免疫？
浏览 15提问于2017-12-15得票数 0
回答已采纳
3回答
什么是体重衰减？
、、、
我最近开始学习ML和TensorFlow。在浏览网站上的时，我看到了一段让我有点困惑的段落：
训练网络进行N维分类的常用方法是多项式logistic回归。softmax回归Softmax回归将一个softmax非线性应用于网络的输出，并计算归一化预测和标签的1-热编码之间的交叉熵。对于正则化，我们还将通常的质量衰减损失应用于所有学习变量。模型的
浏览 14提问于2017-08-07得票数 2
回答已采纳
我对Pytorch中交叉熵的计算感到困惑。如果我想计算两个张量和目标张量之间的交叉熵不是一个热标签，我应该使用哪一个损失？计算两个概率分布之间的交叉熵，而不是预测结果和一个确定的单热标号是很常见的。，最终的交叉熵就不符合预期的结果。因为这些维度中的<
浏览 11提问于2021-08-01得票数 2
回答已采纳
由于tf.nn.softmax_cross_entropy_with_logits在gen_nn_ops中的源代码是隐藏的，有人能解释一下tensorflow是如何在Softmax之后计算交叉熵的吗？我的意思是，在softmax之后，由于精度的原因，它可能会输出0，从而产生一个具有交叉熵的NaN问题。当softmax绑定其输出时，tensorflow是否使用剪辑方
浏览 4提问于2017-10-19得票数 1
回答已采纳
这给了我几千亿的莫名其妙的困惑，即使在训练了一段时间之后。这让我怀疑我的困惑计算是否被误导了。它是否应该基于每个时间步的损失，然后进行平均，而不是将它们全部相加？
我的batch_size是20，num_steps是35。
浏览 41提问于2017-12-29得票数 9
回答已采纳
2回答
我正在运行张量流的单词RNN实现for e in range(model.epoch_pointer.eval(), args.num_epochs):
sess.run
浏览 0提问于2017-01-27得票数 10
回答已采纳
1回答
我已经建立了一个模型来检测一个乒乓球运动员使用TensorFlow进行的射击类型。在我建立了我的神经网络之后，我所处理的模型似乎是一个多标签分类模型。二值交叉熵和范畴交叉熵在这两种情况下都造成了很差的损失和精度，而使用最小熵和最大熵的误差分别为98%和0.004。
为什么会发生这种情况，尽管我使用了3个输出标签来监督学习数据，如
浏览 9提问于2022-10-01得票数 -2
我想写一个有两个参数的函数，A和B，相同形状的张量(例如，13x13或其他形状)，并且返回一个数字，该数字表示当按分量应用二进制交叉熵时所有损失的总和。因此，对于A[i, j]和B[i, j]，我们找到了二元交叉熵损失，然后对所有的i和j进行了求和。如何在Keras和Tensorflow中实现这一点？
浏览 0提问于2018-09-28得票数 1
回答已采纳
1回答
我想要实现的是计算相对于输入值x的交叉熵的梯度。在TensorFlow中，我对此并无异议：但是随着我的网络越来越大，我转而使用Keras来更快地构建它们。是否有方法从model变量中提取交叉熵和输入张量，以存储整个模型？为了清楚起见，我的cross_entropy是：
cross_
浏览 2提问于2018-12-06得票数 4
回答已采纳
3回答
我很难在tensorflow中计算交叉熵。具体来说，我使用的是函数：使用看似简单的代码，我只能让它返回一个零).eval(feed_dict={b:np.array([[0.45]]), a:np.array([[0.2]])})返回我对交叉熵的</e
浏览 0提问于2017-03-01得票数 9
回答已采纳
我正在浏览Pytorch和Tensorflow中的交叉熵文档。我知道他们正在修改交叉熵的朴素实现，以解决潜在的数值溢出/下溢。然而，我不能理解这些修改是如何起作用的。现在，我们将其与Tensorflow的实现进行对比(我得到了。这可能是完全错误的)-
是所有k个原始logit分数的向量。虽然这解决了溢出问题，但它
浏览 7提问于2020-08-30得票数 5
1回答
二元交叉熵是如何工作的？
、、、、
在将汇总数据传递到逻辑函数(在范围$$中规范化)之前，必须对权重进行优化，以获得预期的结果。为了为分类目的寻找最优权重，必须找到相对最小的误差函数，这可以是cross熵。据我所知，交叉熵测量两个概率分布之间的量化，由位两种概率分布的同一事件集之间的差异来衡量。
由于某些原因，交叉熵等价于负对数似然。$p$和$q$两种概率分布之间的交叉熵<
浏览 0提问于2018-07-13得票数 5
回答已采纳
2回答
理解张量流函数输出
、、、
有人能解释一下为什么下面的代码会生成array([ 0.59813887, 0.69314718], dtype=float32)的输出吗？例如，numpy.log(0.5) = 0.69314718，但是0.598138是如何产生的呢？import tensorflow as tf
res1 = tf.nn.sparse_softmax_cross_entropy_with_logits(_sentinel=None, labels=
浏览 1提问于2017-11-20得票数 0
回答已采纳
我想建立一个多标签分类模型(每个例子都有多个标签，每个示例的标签数量都不是固定的)。例如，example1可能有类标签"X“、"Y"，而example2有类标签"X”、“Y”和"Z“。我的目标是计算这个多标签分类模型的交叉熵损失。
我的第一个解决方案是手动创建目标类的密集、单热表示并计算损失。然而，当我的词汇量是O(10K)时，这个解决方案是缓慢的。
浏览 3提问于2017-07-20得票数 0
回答已采纳
1回答
我试图使用tensorflow (V.1.1.0)对输出层的单个神经元执行二进制分类。下面的片段对应于我目前使用的丢失函数和优化器(灵感来自答案)。tf.train.GradientDescentOptimizer(learning_rate = learning_rate,name='GradientDescent').minimize(loss)
然而，，我的问题是，由于某种原因，所有实例在历次进展之后都被归类为相同的类。
浏览 2提问于2017-08-02得票数 0
回答已采纳
3回答
分类问题，如logistic回归或多项式logistic回归，优化了一个交叉熵损失.通常情况下，交叉熵层遵循软最大层，产生概率分布.在tensorflow中，至少有一打不同的交叉熵损失函数()。相关(更多面向数学的)讨论：。
浏览 19提问于2017-10-31得票数 99
回答已采纳
1回答
关于变分自动编码器中的损失函数，我有一个问题。我按照tensorflow示例创建了一个LSTM，用于采样窦房结功能.我的编码器-输入是一组特定范围(随机抽样)的点(x_i，sin(x_i))，作为解码器的输出，我期望类似的值。
在tensorflow指南中，使用交叉熵来比较编码器输入和解码器输出。cross_ent = tf.nn.sigmoid_cross_entropy_with_logits(logits=x_logit, la
浏览 2提问于2019-12-20得票数 0
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
