在简单梯度下降法的情况下，我们只计算一阶导数；在牛顿法中，我们计算二阶导数和恒心导数，并应用于向量。此外，牛顿/s方法中向量的更新可能并不总是沿(-ive)梯度方向进行。此外，对于给定的函数f(x)，这两种方法都试图寻找满足f'(x) = 0的最小值；在梯度下降法中，目标是argmin f(x)，而在牛顿法中，目标是f‘(X)=0。另一个区别是停止准则，在梯度下降法中，f'(x) = 0，而在牛顿法中，它是f(x)=0。
基于上述论点，是否
浏览 7提问于2020-01-18得票数 0
回答已采纳
我知道Python在scipy.optimize.minimize中有以下求解器PowellBFGSL-BFGS-BCOBYLAtrust-constrtrust-ncgtrust-krylov
浏览 1提问于2018-08-17得票数 1
回答已采纳
1回答
来源：
在牛顿法中，用恒心矩阵对函数进行优化。当一个Hessian矩阵不能给出全局极小值时，它在优化中有什么用处(这就是我们在优化函数时所寻找的)？
浏览 3提问于2022-06-10得票数 1
1回答
Phong反射模型参数
、、、、
有一个成本函数需要用牛顿法进行优化。我需要给出牛顿法的初值。
我正在用牛顿法估计上述参数。图像是人的脸，摄像机是网络摄像头.
浏览 2提问于2013-02-05得票数 3
Python scipy.optimize.minimize函数支持以下方法：
SLSQP
浏览 0提问于2018-08-09得票数 2
回答已采纳
5回答
我想知道平面梯度下降法和牛顿法的实际区别是什么？
从维基百科上，我读到了这样一句简短的话：“牛顿的方法使用曲率信息来选择更直接的路线。”直观地说，这意味着什么？
浏览 3提问于2012-08-22得票数 68
回答已采纳
在训练深度和浅层神经网络时，为什么常用梯度下降法(如梯度下降法、Nesterov法、牛顿-拉夫森法)，而不是其他元启发式方法？
元启发式是指为避免陷入局部极小而发展起来的模拟退火、蚁群优化等方法。
浏览 0提问于2016-04-15得票数 3
1回答
牛顿法与消失梯度
、、
现在我无法理解，如果使用基于ReLu的激活函数来解决这个问题，那么为什么会有这么多的研究论文建议将牛顿方法作为深度学习的优化算法而不是梯度下降？在阅读研究论文时，我有强烈的印像，认为消失梯度问题是提出这些建议的核心原因，但现在我感到困惑的是，如果能修改梯度下降法来纠正机器学习过程中面临的所有问题，是否真的需要牛顿法。
浏览 0提问于2019-03-20得票数 3
回答已采纳
我在一篇文章中读到，像DFP和BFGS这样的准牛顿法在处理病态问题时表现不佳，但我不明白其中的原因。我一直在尝试使用这些方法来处理一个病态的二次问题，它不会在p+1迭代中收敛(这是二次问题的拟牛顿方法的特性之一)，但还有一点。为什么会这样呢？谢谢你的帮助。
浏览 7提问于2018-11-25得票数 1
我有一个函数，我想用牛顿法进行优化。30.91*math.log1p(1+(x/30.91))
如果我用我最初的猜测80调用这个函数，它可以工作，但是牛顿优化不会收敛
浏览 2提问于2016-02-04得票数 1
回答已采纳
1回答
为了加快SARIMAX模型的训练时间，我第一次使用线程库。但是代码始终失败，出现了以下错误This problem is unconstrained.This problem is unconstrained.import numpy as npfrom statsmodels.tsa.arima_
浏览 11提问于2017-09-10得票数 5
对于一个学校项目，我需要评估一个不同学习率的神经网络。我选择了sklearn来实现神经网络(使用MLPRegressor类)。由于训练数据非常小(20个实例、2个输入和1个输出)，所以我决定使用lbfgs求解器，因为像sgd和adam这样的随机求解器对这种大小的数据没有意义。
有什么方法可以让我以某种方式访问lbfgs解算器的学习速度并对其进行修改
浏览 4提问于2020-03-28得票数 1
回答已采纳
我在为银行贷款优化做代码。在这个问题中，我导入了一个带有所有参数(客户年龄、分期付款数量、贷款额等)的CSV。首先对多变量函数(总共有6个变量)进行建模，然后将其应用于传统的方法，如拟牛顿法和need法(这是针对某一大学学科的)。为此，我需要建立一个数学模型来找到这个函数。你能帮帮我吗?
浏览 3提问于2022-10-17得票数 0
1回答
当我试图知道它使用的是什么优化器时，我被定向到nlminb函数，它声明：
有人能至少告诉我一些“例行公事”中的名字吗？例如，“梯度下降”，“Levenberg-Marquardt”，还是“信任区域”？
浏览 0提问于2018-03-20得票数 4
回答已采纳
要求函数的根，我们通常可以用二分法或牛顿法。对于函数f(x)，只有当我们有f(x)的x依赖性的解析表达式时，这才是可能的。我正在用C语言编写我的程序，我正在使用for循环来计算x的每个值的f(x)，方法是使用二分法求解一个非线性方程，并将数据制表。现在我需要找到函数f(x)的根。
浏览 3提问于2020-07-08得票数 2
1回答
我正在用NNxNN做一个优化问题，在这里我取一个平面的顶点和大小的键组成的网络，连接它的两边(例如，使它周期性)，并且最小化一个能量函数，从而使它卷曲成一个圆柱体。(见下面的链接。)我按以下方式调用优化函数，并根据情况将'Newton-CG'替换为'BFGS'和'L-BFGS-B'：res = minimizeNN=9方法: BFGS警告:不一定由于精度损失而达到期望的错误。NN=9法:<e
浏览 2提问于2017-02-23得票数 16
回答已采纳
我需要帮助来改进我的代码。这段代码找到了方程的根，但是当它没有任何根时，屏幕上什么都不会出现。我需要这样的“输出”：例如，"output" There is not root of equation. #include <stdio.h> #include <math.h>
double F(doubl
浏览 2提问于2015-04-19得票数 1
回答已采纳
1回答
我选择了牛顿法，迭代数组np*t的第一个值，并进行了10次迭代。我用wolframalpha检查代码的结果。这就是问题所在。对于t的50个值(从1到50)，我几乎得到了所有正确的值。编辑:固定次数的迭代是为了调试目的(对于100个迭代也是相同的结果:( )
EDIT2:在牛顿法的调用中，我错了值的顺序。
浏览 5提问于2013-08-09得票数 0
回答已采纳
我正在学习牛顿在ML中二阶优化的方法。我遇到了这个公式，但我不明白我们是如何得到的。我想这是泰勒级数，但我仍然不能完全解释这个公式。
浏览 0提问于2022-11-06得票数 0
回答已采纳
1回答
牛顿拉夫森方法的失效分析表明，“对于某些函数来说，某些起点可能进入无限循环，从而阻止收敛”。我希望在程序中保留一个检查，它是否进入了一个无限循环，是否使用了assert语句。
浏览 2提问于2014-07-03得票数 1
云服务器
ICP备案
云直播
对象存储
实时音视频
腾讯云开发者
