我有一个150k条记录的训练集，X_train.shape = (150000，89)和y_train.shape = (150000，)，有462个类别整数标签。我想试一试sklearn.ensemble.GradientBoostingClassifier，看看它的性能如何。问题是训练损失在增加，而不是减少： Iter Train Loss Remaining Timetrain_test_split
from s
浏览 25提问于2019-11-02得票数 0
我正在训练一个视频预测模型。 根据损失图，当最终损失不够小且生成不好时，模型收敛速度很快。 实际上，我已经测试了lr=1e-04和lr=1e-05，损失图下降得有点慢，但仍然不理想。
浏览 228提问于2019-02-20得票数 0
回答已采纳
1回答
据我所知，如果1.收敛太快2.验证损失不断增加，那么模型肯定是过拟合的。 同样，据我所知，除非你使验证损失收敛到与你的训练损失类似的趋势，否则没有办法解决这个问题，这样你就可以做更多的数据增强等。此外，许多人似乎认为他们只会增加10倍，这是很好的。在评论中，他们也只要求10倍的实验来解决过度拟合问题。 我的理解错了吗？是否有希望出现不收敛而是上升的验证损失？或者，除了验证损失之外，还有其他衡量标准吗
浏览 42提问于2019-03-21得票数 0
我正在使用Keras和预先训练好的权重用于Conv层，并且只想训练密集层。当我使用输入维度150x150或224x224，但不收敛于299x299 (训练损失增加，训练和验证精度保持不变，相当于随机猜测)时，模型表现出预期的效果。
这一切为什么要发生？
浏览 2提问于2018-04-02得票数 0
2回答
我使用TensorFlow作为训练模型，它有4个输入的一个输出。问题是回归。我试着增加/减少隐藏层的数量，增加/降低学习率。我还尝试了多个优化器，并试图对模型进行规范化和非规范化数据的训练。
我是这一领域的新手，但我迄今为止所读
浏览 6提问于2017-07-06得票数 1
1回答
我正在使用tensorflow.keras来训练CNN来解决图像识别问题，使用Adam最小化来最小化自定义损失(一些代码在问题的底部)。我正在试验我需要在训练集中使用多少数据，我认为我应该看看我的每个模型是否都正确地收敛了。然而，当绘制不同训练集分数的损失与训练次数的关系图时，我注意到损失函数中存在大约周期性的峰值，如下图所示。在这里，不同的行显示了不同的训练集大小作为我的总数据集的一部分。
随着我减小训练集的大小(
浏览 19提问于2020-05-20得票数 2
1回答
一种分类算法的学习曲线
、、、
非常低的训练损失，这是非常轻微的增加增加的训练例子。不匹配模型的学习曲线在一开始就有较低的训练损失，随着训练样本的增加而逐渐增加，且保持平稳，说明增加更多的训练样本不能提高模型对未见数据的
浏览 0提问于2022-01-12得票数 2
1回答
损失和正则化推理
、、、
我正在为MovieLens数据集建立一个矩阵分解模型，并进行批量训练。批处理损失函数：
📷我应该从正规化损失上升中推断出什么？模型不能利用当前嵌入的大小捕获底层信息，或者正则化损失的规模比基损失小？
浏览 0提问于2019-01-18得票数 2
回答已采纳
2回答
我正在训练一个图像分类模型，我的测试集分布是80-20。📷在这种情况下，合并火车、测试集是个好主意吗？
如果我这样做，有甚麽坏处呢？
浏览 0提问于2020-10-18得票数 2
回答已采纳
我正在训练一个模型，使用作者最初的学习速率(我也使用他们的github )，我得到了一个不断振荡的验证损失，它会减少，然后突然跳到一个很大的值，然后再次下降，但从没有真正收敛到它得到的最低值是2(而训练损失收敛到在每一个时代，我得到训练的准确性，在最后，验证的准确性。验证精度总是大于训练精度。
当我测试真实的测试数据时，我得到了很好的结果，但是我不知道我的模型是否太合适了。我预计一个好的模型的val损失会以类似的方式与训练</
浏览 0提问于2019-03-26得票数 9
回答已采纳
1回答
使用Dropout时的验证损失
、、、、
无辍学与辍学0.05辍学为0.075的
如果没有任何辍学，验证损失比培训损失更多，如所示。我的理解是，验证损失只应略高于训练损失的一个良好的契合。小心地，我增加了辍学，以便验证损失接近训练损失，如在中所看到的。辍学只适用于培训期间，而不适用于验证期间，因此验证损失低于培训损失。
最后，的辍学率进一步增加，验证损失再次
浏览 1提问于2018-01-23得票数 10
回答已采纳
3回答
在神经网络中，梯度下降会查看整个训练集以计算梯度。成本函数随着迭代的进行而减小。如果代价函数增加，通常是因为错误或不适当的学习率。在随机梯度下降中期望成本函数的增量吗？
浏览 2提问于2018-05-16得票数 0
我已经尝试了ML函数，只进行了2次迭代，我已经开始阅读如何设置更多的迭代，但是只有最大的迭代是可配置的。顺便问一下，是否有一个增强功能可以让您生成培训数据？
浏览 1提问于2018-09-10得票数 0
回答已采纳
该网络似乎完全收敛，直到一个点，损失突然增加，随着验证错误。以下是标签和权重的损失图(对它们的和运行优化器)
我使用l2减肥来调整体重，也使用标签。我在训练数据上应用了一些随机性。
浏览 2提问于2017-02-14得票数 20
我正在训练一个CNN-多通道模型，并为稠密层设置下拉和权重约束。我使用两个输入，因为我试图用标题和摘要对文档进行分类。此外，由于原始数据集是不平衡的，所以我正在对过采样的数据集进行培训。下面的图片是我的损失。绿线是训练损失，灰色线是验证损失。有人能解释为什么我的验证损失第一次增加，以及为什么这两条线不结合在一起？此外，有谁有获得更好结果的建议吗？
编辑：如果我降低或删除删除后的嵌入层，验证损失确实收敛。这一切为什么要发生？
浏览 2提问于2020-12-15得票数 0
1回答
我的机器学习模型在很大程度上超过了训练数据，但在测试数据上仍然表现得很好。当使用神经网络方法时，每次迭代都会略微增加测试集上的精度，但会大大提高训练集上的精度(过拟合)。0.757 4 1.449 0.748 0.613 0.674 0.877
TF是训练数据上的测试分数不断提高，而与训练集的分歧只是增加到这样的点，在第20次迭代中，模型在训练数据上几
浏览 28提问于2019-11-08得票数 1
2回答
良好的训练，测试和验证的准确性，但奇怪的历史准确性的模型行为:这是我的模型的总结： ? 我执行了执行和预测任务，得到了下一个混淆矩阵： ? 而准确率行为紧随其后： ? 添加损失图以在下一篇文章中阐明更多内容 ? 提前感谢您的任何有用的信息和帮助！
浏览 90提问于2020-08-11得票数 1
回答已采纳
1回答
我正在为二进制分类训练一个cNN。我使用了128批大小，损失正在减少，准确度随着时间的推移而增加。最终精度达到0.99以上，损失小于0.3。但再过几个年代，该模型收敛到了0.6，精度下降了0.5。我用二元交叉熵作为损失函数。对于每一个时代，所有的数据点都会被洗牌。我用的是SGD，学习率是0.01。
我是否以较低的准确率，但相当好的损失值，达到了局部最小值？建议采取什么办法来处理这一问题？此外，为什么有可能有一个低损失函数与一个单一的预测类？
浏览 0提问于2018-03-01得票数 0
回答已采纳
2回答
我使用的随机forest.My测试准确率是70%，另一方面训练准确率是34%？该怎么办呢？我该如何解决这个问题呢？
浏览 6提问于2018-07-22得票数 5
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
云直播
对象存储活动推荐
腾讯云开发者
