1回答
在文章末尾，作者提到：
我们从一堆要训练的文件开始。然后，我们将每个文档表示为数字向量，您可以选择将它们分割成n克，然后用TF-下手称这些n克。现在我们有了一个数值表示，我们可以给出程序的训练数据，并使它的猜测每次。根据程序的错误程度，程序根据错误进行调整，以便在下一次使用梯度下降进行更好的预测。这篇文章没有提到SGD，但从互联网研究中我了解到SGD是GD的一种变化，在这里，参数在每次迭代时都会立即被调整，而不是在整个训练集的末尾。
浏览 0提问于2020-02-06得票数 1
我认为学习曲线是根据独立于任何批次/时代的训练数据来处理准确性分数的吗？对于批处理方法，我真的可以使用这个内置函数吗？如果是，我应该选择哪个批次大小(训练示例的整批或批次size=数或两者之间的某个部分)，以及从中得到什么诊断？或者你通常如何诊断神经网络分类器的偏差/方差问题？
我真的很感激你的帮助！
浏览 1提问于2019-03-26得票数 1
回答已采纳
3回答
在神经网络中，梯度下降会查看整个训练集以计算梯度。成本函数随着迭代的进行而减小。如果代价函数增加，通常是因为错误或不适当的学习率。在随机梯度下降中期望成本函数的增量吗？
浏览 2提问于2018-05-16得票数 0
对于一个输入，有随机权值，我的预测效率会改变吗？另外，我还没有考虑到网络中的偏差，这是否是效率较低的原因( 200例训练数据的预测率为93%，100例测试数据的预测率为90% )。
浏览 3提问于2016-06-24得票数 1
回答已采纳
0回答
随机梯度下降训练误差
、、、
nn.SpatialConvolution(64, 64, 3, 3)) 下面是我是如何训练它的)trainer.learningRate = 0.01在训练时
浏览 8提问于2016-07-07得票数 0
回答已采纳
据我所知，有不同类型的梯度下降方法来更新神经网络的权重。有人知道R的neuralnet包中实现了哪种方法吗？如果是批量梯度，那么批量大小是多少？我怎么能控制它呢？
谢谢
浏览 3提问于2018-11-26得票数 1
1回答
我知道嵌入层降低了单词热编码的稀疏性，其参数在反向传播时被训练，但我不知道它的实现的数学方法。
提前谢谢。
浏览 0提问于2019-06-05得票数 2
1回答
当我阅读和复习吴家富深造课程的第二节课时，我偶然发现一句话：但这怎么可能？小批处理梯度下降真的能给我们一组更好的权重和偏差，即使它没有根据整个数据集更新它们吗？我只能认为，这可能不是过分适合，这样，它可以提供更好的结果。
浏览 0提问于2020-07-30得票数 1
我有一个关于在随机GD中更新θ的问题。我有两种方法来更新θ：
1)利用前面的θ，得到所有样本的所有假设，然后根据每个样本更新θ。
浏览 2提问于2014-05-29得票数 0
回答已采纳
文件中都说，“用随机梯度下降来拟合线性模型。”
关于随机梯度下降，我所知道的是，在一次迭代中更新模型的参数需要一个训练示例(或整个训练的一部分)。梯度下降在每次迭代中使用整个数据集。我想用logistic回归来训练一个模型。我要实现法向梯度下降和随机梯度下降，并比较它们所需的时间。如何在SGDClassifie
浏览 2提问于2016-11-18得票数 0
回答已采纳
为了适当地收敛到最优，人们发明了各种使用自适应学习速率的算法，如AdaGrad、Adam和RMSProp。另一方面，有一个学习速率调度器，如功率调度和指数调度。那么，你如何才能正确地使用它，这取决于什么样的问题？
浏览 0提问于2017-08-15得票数 8
1回答
背景(可略去)：
在训练神经网络时，通常采用随机梯度下降(SGD)方法，而不是用梯度下降来计算训练集中所有成员的误差，而不是用梯度下降来更新权值(这意味着每次更新权值之前都要等很长时间)，而是每次使用最小的一批成员，将产生的误差看作是对真实误差的无偏估计。在强化学习中，有时Q-学习是用神经网络实现的(如深度Q-学习)，并且使用经验重放:而不是根据代理的前一次(状态、动作、奖励)更新
浏览 0提问于2016-12-24得票数 2
回答已采纳
2回答
许多专家说，“批处理比SGD具有更多的本地最优可能性”。但是，我不知道原因..。SGD如何能比批处理更好地避免局部最优？)有些人告诉我，过度射击是原因。但是，我也不知道在SGD有更多的过度射击)
如果你用几何、数学或其他直觉概念来解释这个原因，那就太棒了！
浏览 0提问于2020-01-09得票数 1
3回答
美国有线电视新闻网何时更新权重？
、、、、
假设我的批号为50，训练数据为1000。我是在每个批次提交到网络后还是在每个数据样本之后进行反向传播？
浏览 0提问于2018-02-03得票数 7
回答已采纳
1回答
我知道的：( ii)现在，∑{ hThetax(i) - y(i) }：指具有给定的Theta值的总错误。误差是指预测值{ hThetax(i) }与实际值之间的差异。y(i)结尾的Xj^(i)代表什么？我们在实现多元线性回归梯度下降时是否做了以下工作？
{第一训练范
浏览 4提问于2017-02-02得票数 2
回答已采纳
我将成本函数建模为训练数据集中预测评级和实际评级之间的均方根误差。我使用scipy.optimize.minimize函数(我使用共轭梯度下降)来分解电影评分矩阵，但是这个优化工具即使对于只有100K项的数据集也太慢了。我计划将我的算法扩展到2000万项的数据集。我一直在寻找随机梯度下降的基于Python的解决方案，但我在scikit-learn上找到的随机梯度下降不允许我使用自定义的成本和梯度函数
浏览 0提问于2015-05-06得票数 3
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
云直播
对象存储活动推荐
腾讯云开发者
