1回答
我正在尝试编写一个程序来计算线性回归模型的斜率和截距，但当我运行超过10次迭代时，梯度下降函数给出截距和斜率的np.nan值。in range(num_iterations): return [b,m] 我在以下数据上运行它2.7585243e+11, 3.0352616e+11]
#resul
浏览 21提问于2019-04-11得票数 2
回答已采纳
对于凸优化，类似于logistic回归。对于非凸优化，如神经网络.
我知道mini batch gradient decent有时可以避免局部最优。，但它们之间是否有固定的关系.
浏览 3提问于2014-10-16得票数 4
我用一些在线资源自学了机器学习，但我有一个关于梯度下降的问题，我无法弄清楚。梯度下降的公式是通过以下物流回归得出的： θj = θj−α/m∑(hθ(x)−y)xj其中θj是变量j的系数，α是学习率，hθ(x)是假设，y是实数，xj是变量j的值，如果我在每个训练示例之后执行梯度下降，那么我的系数将非常不同，如果我在所有10
浏览 8提问于2013-06-24得票数 7
回答已采纳
我已经在这个.csv文件中提供的数据上训练了一个多元线性回归模型：我训练它(梯度下降)如下：rd: int = 0 rd =print("\t\tEpoch: " + str(epoch) + "\n\t\tMSE:" + str(mean_squared_error))
损失/成本函数(均方误差)如预期的那样保持下降这意味着什么，以及如何防止它的<
浏览 0提问于2019-10-19得票数 0
1回答
我正试图在python中训练一个神经网络(backprop +梯度下降)，我在google图书2克(英文)的基础上构建了它的功能，它最终将是大约10亿行数据，每行有20个功能。这将很容易超过我的内存，因此使用内存中的数组(如numpy )将不是一个选项，因为它需要加载完整的训练集。我研究了numpy中的内存映射，它可以解决输入层的问题(这是只读的)，但我也需要在网络中存储和操作我的
浏览 0提问于2016-02-07得票数 0
回答已采纳
我有我的逻辑回归函数，它使用梯度下降来找出参数的收敛性。我的梯度下降算法，以矩阵的形式找到参数，因为它以矩阵的形式比在循环中单独和线性地查找更快。例如:矩阵(P) <-矩阵(P)- LearningRate( T(矩阵(X))*(矩阵(h(X)) -Matrix(Y) ))
对于小的训练数据，它是相当快的，并且给出了正确<
浏览 8提问于2016-09-07得票数 0
2回答
我有一个关于使用随机梯度下降的交叉熵收敛的问题。对于如何评估趋同，我感到有点困惑。如果损失在任何一个例子上最小，或者可能是一定数量的例子，我们应该把模型看作是收敛的吗？我要问的是，如果模型只是随机地集中在一个例子上，会怎样呢？
浏览 0提问于2019-12-30得票数 0
回答已采纳
我面临的问题是，对于某些数据.梯度下降(GD)和封闭形式解(CFS)都给出了相同的假设线。但是，在一个特定的数据集上，结果是不同的。我读过一些关于，如果数据是奇异的，那么结果应该是一样的。然而，我不知道如何检查我的数据是否是单数。1)首先，给出了语言中的MATLAB代码。对于给定
浏览 7提问于2016-11-11得票数 2
回答已采纳
nan [ nan] [ nan]2000 nan [ nan] [ nan][ nan]如果我将初始数据更改为
浏览 38提问于2016-09-04得票数 3
2回答
我通过在线资源(即coursera的机器学习)学习了梯度下降。然而，提供的信息只说重复梯度下降，直到它收敛。if (change_in_costfunction > precisionvalue) {}
或者，我想知道是否另一种确定收敛</
浏览 10提问于2013-06-25得票数 10
回答已采纳
1回答
我必须使用python numpy库实现随机梯度下降。y - tx.dot(w)我不确定迭代是否应该在range(max_epochs)或更大的范围内完成我这样说是因为我读到一个时期是“每次我们运行整个数据集”。所以我认为一个时代是由一次以上的迭代组成的。
浏览 4提问于2016-10-11得票数 2
回答已采纳
1回答
Adagrad采用梯度下降过程中的学习速率\alpha ，将每个权重除以上一次平方梯度到时间t 的总和。因此，对于不频繁的数据样本，更新将是很大的，对于频繁的数据样本，更新将是一个非常适合稀疏数据的算法。，在每条对角线中包含参数w_{i} 的平方梯度之和，直到时间t为止。所以我试着建立一个<e
浏览 0提问于2023-03-13得票数 0
我有一个函数y=(x1)^2 + 2*(x2 )+(x3 )+ 3*(x4)^3，我必须预测它的值。因此，我在输入层有4个输入，在输出层有1个隐藏层和2个节点。当我用200个例子训练我的数据时，我得到了94%的训练数据和86%的测试数据(隐藏层中的4个节点)。
我得到了90.2%的训练集250个例子和96%的测试数据。同时，同样的程序在训练和测试数据</e
浏览 6提问于2016-06-25得票数 0
回答已采纳
我知道如何计算只有一个整体极小值的凸函数的梯度下降。另外，我知道处理函数是非凸函数的情况的方法。真正困扰我的是，对于像y = -x^2这样的非凸函数，梯度下降是如何计算的，在这里下降会变成负无穷大，而不是直接收敛到全局极大值。因此，对于像(x^2 - y^2)这样的函数来说，
浏览 0提问于2019-10-27得票数 0
1回答
我正在尝试寻找模型系数，我已经实现了梯度下降和坐标下降算法，以最小化L1正则化系统。例如，λ1000将给我10^(-19)范围内的系数，但我的梯度的norm2是~1.5，这是在几千次迭代之后，而我的梯度值都收敛到0到1范围内的值，我的步长变得非常小(10^(-37)范围)。我的梯度算法和坐标<
浏览 2提问于2013-01-06得票数 5
回答已采纳
梯度下降的矢量化实现 J_history(iter) = computeCostMulti(X, y, theta);
computeCostMulti()的实现 J = 1 / (2 * m) * (X * theta - y)'
浏览 2提问于2017-06-03得票数 0
1回答
我是CNN的新手，到目前为止，我对过滤器的了解是，当我们给我们的模型提供一个训练示例时，我们的模型通过梯度下降来更新权重，以最小化损失函数。那么，我的问题是，如何为特定的类标签保留权重？问题是模糊的，正如我的知识是模糊的。这是我到CNN的第四个小时。
例:如果我说的是有10个标签的MNSIT数据集，让我们说我最初是给我的
浏览 0提问于2020-03-31得票数 -1
1回答
我正在学习Andrew Ng的机器学习课程，我正在学习第16章:推荐系统。我最近看完了关于协同过滤的部分。在其中，他谈到了如何猜测参数: theta，然后用它来预测x，并使用预测的x来学习更好的参数，等等。他还说，它可以同时完成，并给出了梯度下降算法： ? 我想问x和theta是否同时更新。例如，对于每次迭代:在对x执行单个梯度下降后，我是否使用新的x值重新计算平方误差和，然后对θ执行<em
浏览 37提问于2020-11-25得票数 0
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
对象存储
腾讯会议
云直播活动推荐
腾讯云开发者
