1
摘要
在本文中,我们提出了最小二乘网络,一种神经非线性最小二乘优化算法,即使在逆境中也能有效地优化这些代价函数.与传统方法不同,所提出的求解器不需要hand-crafted的正则化或先验,因为这些都是从数据中隐式学习的...剩余函数集可以比作一个方程组,其解为零,
.如果这个系统中变量的数目大于方程的数目,那么这个系统是欠定的,如果它们相等,那么它是确定的.如果方程多于变量,那么它是超定的.适定问题需要满足三个条件:1...在本文中,我们旨在利用来自传统非线性最小二乘解算器的强大而成熟的思想,并将这些思想与有前途的基于学习的新方法相结合。...第一个采用机器学习来优化光度误差的算法
3
非线性最小二乘求解
典型的非线性最小二乘问题如下:
?
其中
代表第j项的误差,x是优化变量,E代表目标函数.遇到这些情况,我们通常使用GN、LM等....在Gauss-Newton (GN) 法中迭代步长通过下述方程求解:
?
而与GN算法不同,Levenberg-Marquadt(LM)算法引入p改善收敛性,其迭代步长为:
?