1回答
我有一个来自一篇论文的目标函数，我想用梯度下降来最小化它。我还没有“从头开始”做这件事，我想要一些关于如何手动编码的建议。目标函数是： T(L) = tr(X.T L^s X) - beta * ||L||。此外，L^s是矩阵指数，其中L^s =FΛ^s F.T，其中F是L的特征向量矩阵，Λ是L的特征值的对角矩阵。目标函数的导数是： dT
浏览 19提问于2020-05-04得票数 0
回答已采纳
我有一个关于经典梯度下降算法的问题。最近，我想实现一个函数拟合程序，只要给定观测数据以及函数的参数。我使用的方法是梯度下降算法，因为函数的导数是可用的。假设给定了函数参数，我可以根据函数创建模拟数据：rng('default');low_value = 15;
hig
浏览 2提问于2013-03-09得票数 1
回答已采纳
2回答
当我查看下面的偏导数时，我认为它是任何优化算法的关键元素。如果我错了，请纠正我，但是这得到了损失函数的斜率，所以我们可以与那个斜率相反，从而最小化损失。除了这个导数，还有其他的计算步骤可以说是优化神经网络的基础吗？
这个话题现在对我来说特别重要，因为我在考虑纹身这个派生词，作为一个很酷的人工智能纹身，我希望它是基本的，简单的。
浏览 0提问于2019-05-10得票数 2
回答已采纳
1回答
我正在尝试开发一个结构方程模型的算法(在梯度下降的框架下) problem.There是一个参数矩阵B(n*n)，它的所有对角元素都固定为zero.And。在我的目标function.There中，没有其他约束，比如B上的对称性。 我的问题是，我们如何确保(I-B)在迭代中不是奇异的？在这个问题中，由于目标函数的</em
浏览 30提问于2019-01-29得票数 1
1回答
我目前正在研究的一个问题需要我为一个结构优化一些尺寸参数，以防止在尚未被过度设计的情况下发生屈曲。我已经能够用迭代(半蛮力)方法来解决这个问题，但是，我想知道是否有一种方法可以实现梯度下降法来优化参数。更多的背景情况如下：
假设我们试图优化三个长度/厚度参数，(t1，t2，t3)。在此基础上，实现了一种计算误差(R1，R2，R2 - ) (R1，R2，R3)ideal )的损失函数。我<e
浏览 3提问于2021-11-06得票数 1
回答已采纳
我已经在这个.csv文件中提供的数据上训练了一个多元线性回归模型：我训练它(梯度下降)如下：rd: int = 0 rd =te += 1损失/成本函数(均方误差)如预期的那样保持下降，直到7
浏览 0提问于2019-10-19得票数 0
1回答
Logistic和线性回归具有不同的成本函数。但我不明白logistic回归中的梯度下降与线性回归是如何一致的。
通过推导平方误差代价函数，得到了梯度下降公式。然而，在Logistic回归中，我们使用了一个对数成本函数。我想我在这里迷路了。
浏览 0提问于2018-01-22得票数 1
回答已采纳
可能是一个很小的问题，但我只想更清楚。根据现有的文献和中的讨论，这两种方法都涉及到计算一个导数，然后向最小方向移动。在简单梯度下降法的情况下，我们只计算一阶导数；在牛顿法中，我们计算二阶导数和恒心导数，并应用于向量。此外，牛顿/s方法中向量的更新可能并不总是沿(-ive)梯度方向进行。此外，对于给定的函数f(x)，这两种方法都试图寻找满足f'(x) = 0<em
浏览 7提问于2020-01-18得票数 0
回答已采纳
2回答
我正在尝试做(最好是随机的)梯度下降，以最小化自定义损失函数。我试过使用scikit学习SGDRegressor课程。但是，SGDRegressor似乎不允许我在没有数据的情况下最小化自定义损失函数，如果我可以使用自定义丢失函数，我只能将它作为回归来使用fit()方法来拟合数据。是否有一种方法可以使用scikit实现或任意其他Python实现的随机梯度下降
浏览 12提问于2022-11-30得票数 1
self.B * self.alpha self.B -= self.eta * dB考虑到我的目标是最小化问题：，如果我尝试将解决方案路径与进行比较，我发现得到的系数是完全不同的。例如，如果我设置n= 100，p=5和alpha = 1，那么lasso_path给出了b_2 =0，但是我想出的粗糙套索给出了b_2 = 0.5962：为什么会有不同呢？还有我应该包括的密
浏览 5提问于2021-11-18得票数 0
4回答
梯度上升收敛
、、、
我正在尝试通过梯度上升过程最大化目标函数的对数。我观察到了一个客观的值序列，在这个序列中，值先是增加，然后又开始减少。我想知道这是不是有可能？我的意思是，是否存在这样的函数，其上升过程通过极大值，然后产生递减值路径。以下是目标值序列的链接。
浏览 1提问于2013-09-28得票数 0
1回答
损失=对数的SGD分类器实现Logistic回归，损失=铰链实现线性支持向量机。我还了解到logistic回归采用梯度下降作为优化函数，SGD采用随机梯度下降，收敛速度要快得多。但这两种算法中哪一种会在哪种情况下使用？另外，SGD和Logistic回归有什么相似之处，它们又有何不同？
浏览 0提问于2018-09-07得票数 10
我正在尝试使用斯坦福NLP库中的QNMinimizer，但在使qn.minimize正常运行所需的参数方面遇到了问题。= new QNMinimizer(10, true)我需要将一个diffFunction类型的对象放在"null“所在的位置，但不确定如何创建/实现一个。我有一个使用梯度下降的方法，并希望将其合并到diffFun
浏览 3提问于2017-04-07得票数 0
0回答
我被要求用Python语言写一个梯度下降的实现，签名为gradient(f, P0, gamma, epsilon)，其中f是未知的并且可能是多元函数，P0是梯度下降的起点，gamma是常数步长，ε是停止标准我发现棘手的是如何在P0点上计算f的梯度，而对f一无所知。我知道有numpy.gradient，但我不知道如何在我不知道f的尺寸的情
浏览 9提问于2017-12-05得票数 0
3回答
在神经网络中，梯度下降会查看整个训练集以计算梯度。成本函数随着迭代的进行而减小。如果代价函数增加，通常是因为错误或不适当的学习率。
相反，随机梯度下降计算每个单个训练示例的梯度。我想知道成本函数是否有可能从一个样本增加到另一个样本，即使实现是正确的并且参数调整得很好。我有一种感觉，代价函数的异
浏览 2提问于2018-05-16得票数 0
在添加新op时，文档()说：既然这是可选的，如果我不写，梯度下降是如何计算梯度的？它用数值方法吗？如果是，什么？这会慢点吗？
浏览 0提问于2016-08-30得票数 0
回答已采纳
4回答
我有一个优化问题，它涉及最小化一个函数的梯度，但是目标函数在任何一点上的实际值都是未知的。显然，我可以使用梯度下降，但我不想在这里重新发明轮子。更多
浏览 3提问于2013-02-01得票数 2
回答已采纳
扫码
添加站长 进交流群
领取专属 10元无门槛券
手把手带您无忧上云
相关资讯
热门标签
云服务器
ICP备案
腾讯会议
云直播
对象存储活动推荐
腾讯云开发者
