最小二乘法(least squares method),也称最小平方法,是一种古老而常用的数学工具,在自然科学、工程技术和人工智能等领域有着广泛地应用,其核心原理就是通过将误差平方和最小化来寻找数据的最佳匹配函数...最小二乘法原理浅析:
在实际应用中,往往通过测量或模拟得到函数y=f(x)在某些点x1,x2,..., xn处对应的函数值y1,y2,......常用的基函数有:
1, x, x^2, ..., x^k;
sin(x), sin(2x), ..., sin(kx)等
最小二乘法就是通过计算寻找一组系数使得所有数据点p(xi)与yi之差的平方和最小...下面以多项式基函数为例,来演示整个计算过程:
p(x)=a0+ a1*x+…+ak*x^k (k1);
令误差平方和函数:
D(a1, a2, ..., ak) = sum((p(xi)-yi)^...上式通过左右两边同时左乘基组系数矩阵的逆即可得到:A=X|-1|Y,此处X|-1|表示基组系数矩阵的逆。