腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(2506)
视频
沙龙
1
回答
TensorFlow
模型
损失
的
近似
周期性
跳跃
、
、
、
、
我正在使用
tensorflow
.keras来训练CNN来解决图像识别问题,使用Adam最小化来最小化自定义
损失
(一些代码在问题
的
底部)。我正在试验我需要在训练集中使用多少数据,我认为我应该看看我
的
每个
模型
是否都正确地收敛了。然而,当绘制不同训练集分数
的
损失
与训练次数
的
关系图时,我注意到
损失
函数中存在大约
周期性
的
峰值,如下图所示。在这里,不同
的
行显示了不同
的
训练集大
浏览 19
提问于2020-05-20
得票数 2
2
回答
Keras训练过程中
损失
的
移动平均
、
、
、
、
我使用Keras和
TensorFlow
来实现一个深度神经网络。当我
损失
和迭代次数时,在每一个时代之后,
损失
都会有一个显著
的
跳跃
。实际上,每个迷你批次
的
损失
应该各不相同,但是Keras计算
的
是小批
的
移动平均
损失
,这就是为什么我们获得了一条平滑
的
曲线而不是任意
的
曲线。移动平均线
的
阵列在每一个时代之后都会被重置,因此我们可以观察到
损失
的</em
浏览 4
提问于2022-04-29
得票数 1
回答已采纳
1
回答
怎么可能在word2vec中使用softmax?
、
、
、
、
我
的
意思是,softmax输出所有类
的
概率,这些类之和为1,例如[0, 0.1, 0.8, 0.1]。但是如果我
的
标签是,例如[0, 1, 0, 1, 0] (多个正确
的
类),那么softmax不可能输出正确
的
值? 我应该用softmax代替吗?还是我漏掉了什么?
浏览 0
提问于2017-12-14
得票数 2
回答已采纳
1
回答
卷积神经网络(
tensorflow
)
损失
函数
的
周期性
、
、
、
、
我正在使用在
Tensorflow
中实现
的
卷积神经网络(cnn)进行图像分割。我有两个类,我使用交叉熵作为
损失
函数和Adam优化器。我正在用大约150张图片训练这个网络。在训练过程中,我看到了这种
周期性
的
模式,训练
损失
一直下降到有一对高
的
值,然后迅速下降到以前
的
水平。 通过降低
浏览 0
提问于2018-06-05
得票数 0
1
回答
tensorflow
打印
的
损失
是批量/样本
损失
还是运行平均
损失
?
、
、
、
当我训练
tensorflow
模型
时,它通常会在每次迭代中输出类似于下面一行
的
信息 INFO:
tensorflow
:loss = 1.9433185, step = 11 (0.300 sec) 打印
的
损失
是
模型
当前看到
的
批次
的
损失
,还是所有先前训练批次
的
运行平均
损失
?如果我使用批次大小为1
的
批次,即每批只有一个训练样本,那么打印
的
损失</
浏览 57
提问于2021-08-23
得票数 1
1
回答
如何正确地建立神经网络训练以保证稳定
的
精度和
损失
、
、
、
、
我有一个用于图像分类
的
DenseNet121。就目前而言,培训安排相当简单:每100批使用验证数据加载器评估
损失
。在一个时代结束时,将当前状态在验证数据上
的
损失
与以前具有最佳验证
损失
的
状态进行比较(对于第一个阶段,只需将其与1e5这样
的
随机高数进行比
浏览 0
提问于2021-01-30
得票数 1
回答已采纳
2
回答
在
Tensorflow
中增加一个
损失
函数
的
常数
、
、
、
所以我再试一次, 当在
Tensorflow
中拟合顺序
模型
时,如何将预先计算
的
值添加到
损失
函数中?使用
的
损失
函数是BinaryCrossentropy,在本文引用
的</em
浏览 1
提问于2020-05-12
得票数 0
3
回答
LSTM训练过程中角点
的
验证
损失
与LSTM稳定性
、
、
我现在使用Keras来训练我
的
LSTM
模型
来解决时间序列问题。我
的
激活函数是线性
的
,优化器是Rmsprop。然而,我观察到
的
趋势是,当训练
损失
缓慢减少时,在一个较小
的
值附近波动,验证
损失
在很大
的
方差上上下
跳跃
。 因此,我提出了两个问题: 1.验证性
损失
是否影响培训过程?2.如何使
模型
更稳定,从而使
模型
返回一个更稳定
的
验证
损失
值?
浏览 6
提问于2017-08-21
得票数 0
1
回答
为什么tf
模型
的
训练过程中
的
二元交叉熵
损失
与sklearn计算
的
结果不同?
、
、
、
、
我正在使用
tensorflow
构建一个神经协同过滤推荐
模型
,使用二进制交叉熵作为
损失
函数。当然,要预测
的
标签是二进制
的
。 在训练每个时期时,打印
损失
函数。我有一个for循环,它逐个时期地训练
模型
时期,然后在当前状态下使用
模型
来预测测试标签,并使用sci-kit学习
的
log_loss函数再次计算
损失
。我注意到
tensorflow
计算
的
损失
(由loss :表示)始终高
浏览 38
提问于2021-10-08
得票数 0
回答已采纳
1
回答
当使用
TensorFlow
对象检测API训练蒙面RCNN时,什么是‘
损失
’?
、
、
预训练
模型
:mask_rcnn_inception_v2_coco信息:
tensorflow
:全局步骤4181:
损失
= 0.0031 (3.290秒/步)信息:
tensorflow
:全局步骤4182:<e
浏览 1
提问于2019-01-24
得票数 2
回答已采纳
2
回答
tensorflow
session.run()
的
参数-是否传递操作?
、
我正在关注这个传入train_step是否是因为它封装了此特定示例中网络
的
所有操作?sess.run(train_step, feed_dict={x: batch_xs, y_: batch_ys})from
tensorflow
.examples.tutorials.mnistimport input_data mnist = input_data.read_data_sets(&quo
浏览 3
提问于2018-07-18
得票数 5
回答已采纳
3
回答
如何使用神经网络同时预测期望值和方差?
、
、
、
、
我想用神经网络来预测一个标量值,它是输入值
的
函数和一个随机值(假设是高斯分布)
的
和,它
的
方差也取决于输入值。现在我想要一个有两个输出
的
神经网络-第一个输出应该
近似
确定性部分-函数,第二个输出应该
近似
随机部分
的
方差,这取决于输入值。要训练这样
的
网络,我需要什么
损失
函数?(如果有用于
Tensorflow
的
Python示例,那就太好了,但我也对一般
的
答案感兴趣。我也不太清楚如何用Pyth
浏览 5
提问于2019-05-19
得票数 1
1
回答
损失
函数
周期性
跳变
的
原因
、
、
、
、
我可能错过了一些显而易见
的
东西,因为我是机器学习
的
新手。我正在训练一个SSD盗梦空间V2,用于从卫星图像中检测建筑物。我使用
Tensorflow
对象检测API。我很难解释为什么
损失
的
价值似乎是
周期性
变化
的
:如果需要增加更多
的
信息,请告诉我
浏览 0
提问于2020-11-30
得票数 0
回答已采纳
2
回答
Tensorflow
:有没有办法在tf.Estimator中存储训练
损失
、
、
我正在使用
tensorflow
估计器对象来训练来自官方
tensorflow
层文档()
的
模型
。我可以看到训练
损失
在训练期间显示在控制台上。有没有办法存储这些培训
损失
值? 谢谢!
浏览 0
提问于2018-02-23
得票数 2
回答已采纳
1
回答
计算word2vec
模型
的
困惑
、
、
、
、
我训练了Gensim W2V
模型
的
500 K句子(大约60K)
的
单词,我想计算
的
困惑。 谢谢
浏览 0
提问于2018-12-13
得票数 2
1
回答
Tensorflow
:结合LSTM
模型
中
的
损失
函数进行领域自适应
、
、
、
、
这是关于预测帕金森病
的
,因为我想建立一个独立于患者
的
LSTM
模型
。目前,我已经使用
TensorFlow
和我自己
的
损失
函数实现了它。因为我计划在每批数据中引入标记
的
训练数据和未标记
的
训练数据来训练
模型
。我想将我自己
的
损失
函数应用于标记和未标记
的
训练数据,还希望仅对标记
的
训练数据应用交叉熵
损失
。我能在
tensorflow
中做到这一点
浏览 0
提问于2018-03-05
得票数 0
1
回答
噪声不可微
损失
函数
的
自定义
Tensorflow
优化器
、
、
、
我使用低级别的
tensorflow
API构建了一个
模型
,它只有几个变量(大约10个),我想要优化这些变量。因此,我想实现一个自定义
的
损失
函数,它产生噪声
损失
值(类似于一种基于仿真的优化方法)。有没有一种方法可以实现不可区分
的
损失
函数,以及像SPSA这样
的
带有低级别
tensorflow
API
的
优化器? 有人可能会问,为什么要用
tensorflow
来做这个呢?这是因为我想使用
tensorfl
浏览 0
提问于2018-01-31
得票数 3
回答已采纳
1
回答
Tensorflow
与
Tensorflow
Lite
的
性能比较
、
、
、
在将
TensorFlow
模型
转换为
TensorFlow
精简版格式时,是否存在性能
损失
?因为我从不同
的
边缘设备获得了这些结果: ? 当Nvidia Jetson与树莓派(
TensorFlow
Lite )
模型
进行比较时,Nvidia Jetson与
TensorFlow
模型
(TensorRT优化)具有更高
的
准确性,这有意义吗?
浏览 110
提问于2020-04-09
得票数 1
回答已采纳
1
回答
无论如何,当自定义
损失
函数
的
导数是由我自己计算时,支持导数。
我已经用
tensorflow
训练了一段时间用于语音识别的深度NN声学
模型
。我所用
的
损失
函数是交叉熵,神经网络
模型
对此有很好
的
影响。现在,我想将
损失
函数转换为一个更复杂
的
函数,称为最大互信息( MMI ),这也是语音识别领域中
的
一个经典准则。我在这里放了一个,它描述了这个
损失
函数,以防你有兴趣。当使用这个特殊
的
损失
函数时,
损失
函数w.r.t
的
导数。
浏览 1
提问于2017-09-06
得票数 0
回答已采纳
1
回答
Tensorflow
中
的
成本敏感
损失
函数
、
、
我正在研究基于
Tensorflow
的
成本敏感神经网络。,但由于静态图形结构
的
Tensorflow
。有些神经网络结构无法由我自己实现。我
的
损失
函数(成本)、成本矩阵和计算过程如下,我
的
目标是计算总成本,然后优化神经网络: y_soft[i] [
浏览 1
提问于2017-09-20
得票数 0
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
深度模型中的优化 - 二阶近似方法篇
transformer 模型的损失函数
tensorflow训练模型loss不变化的可能原因和怎么判断tensorflow模型是否过拟合
TensorFlow 篇 | TensorFlow 2.x 基于 Keras 的模型保存及重建
Tensorflow学习笔记-模型、图的存储与加载
热门
标签
更多标签
云服务器
ICP备案
对象存储
腾讯会议
云直播
活动推荐
运营活动
广告
关闭
领券