最小二乘法的公式
最小二乘法是一种用于拟合数据的数学方法。它的基本思想是通过最小化误差平方和来找到最优的拟合函数。给定一组数据点 (x1, y1), (x2, y2), ..., (xn, yn)，假设它们服从线性关系 y = ax + b，我们的目标是找到最优的系数 a 和 b，使得误差平方和最小。
具体而言，我们定义误差函数 E(a, b) = Σ(yi - axi - b)^2，其中 Σ 表示对所有数据点求和。最小二乘法的核心思想就是将这个误差函数最小化，即求出使得 E(a, b) 最小的系数 a 和 b。
为了实现这个目标，我们需要对误差函数求偏导数，并令其等于 0。具体而言，我们先分别对 a 和 b 求偏导数，得到以下两个方程：
Σ(xi * (yi - axi - b)) = 0
Σ(yi - axi - b) = 0
然后，我们可以将这两个方程转化为矩阵形式，得到以下公式：
X = [[x1, 1], [x2, 1], ..., [xn, 1]]
Y = [[y1], [y2], ..., [yn]]
A = [[a], [b]]
A = (X^T X)^(-1) X^T Y
其中 X^T 表示 X 的转置，^(-1) 表示矩阵的逆。这个公式就是最小二乘法的核心公式，可以用来求出最优的系数 a 和 b。
需要注意的是，最小二乘法只适用于线性模型，并且要求数据点之间的误差服从正态分布。在实际应用中，我们也可以使用其他的拟合方法来适应不同的数据模型和误差分布。
绛旓細鏈灏忎簩涔樻硶鍏紡涓篴锛漼锛堝钩鍧囷級锛峛锛妜锛堝钩鍧囷級銆傚湪鐮旂┒涓や釜鍙橀噺锛坸锛寉锛変箣闂寸殑鐩镐簰鍏崇郴鏃讹紝閫氬父鍙互寰楀埌涓绯诲垪鎴愬鐨勬暟鎹紙x1锛寉1锛夛紝锛坸2锛寉2锛...锛坸m锛寉m锛夛紱灏嗚繖浜涙暟鎹弿缁樺湪x锛峺鐩磋鍧愭爣绯讳腑锛岃嫢鍙戠幇杩欎簺鐐瑰湪涓鏉＄洿绾块檮杩戯紝鍙互浠よ繖鏉＄洿绾挎柟绋嬪a锛漼锛堝钩鍧囷級锛峛锛妜锛堝钩鍧囷級銆傚叾涓細a...
绛旓細鏈灏忎簩涔樻硶鍏紡鏄竴涓暟瀛︾殑鍏紡锛屽湪鏁板涓婄О涓烘洸绾挎嫙鍚堬紝姝ゅ鎵璁叉渶灏忎簩涔樻硶锛屼笓鎸囩嚎鎬у洖褰掓柟绋嬶紒鏈灏忎簩涔樻硶鍏紡涓篵=y(骞冲潎)-a*x锛堝钩鍧锛夈
绛旓細鏈灏忎簩涔樻硶鍏紡鏄竴涓暟瀛︾殑鍏紡锛屽湪鏁板涓婄О涓烘洸绾挎嫙鍚堬紝姝ゅ鎵璁叉渶灏忎簩涔樻硶锛屼笓鎸囩嚎鎬у洖褰掓柟绋嬶紒鏈灏忎簩涔樻硶鍏紡涓篴=y(骞冲潎)-b*x锛堝钩鍧锛夈傛渶灏忎簩涔樻硶锛堝張绉版渶灏忓钩鏂规硶锛夋槸涓绉嶆暟瀛︿紭鍖栨妧鏈傚畠閫氳繃鏈灏忓寲璇樊鐨勫钩鏂瑰拰瀵绘壘鏁版嵁鐨勬渶浣冲嚱鏁板尮閰嶃傚埄鐢ㄦ渶灏忎簩涔樻硶鍙互绠渚垮湴姹傚緱鏈煡鐨勬暟鎹紝骞朵娇...
绛旓細鏈灏忎簩涔樻硶鍏紡涓篵=y锛堝钩鍧囷級-a*x锛堝钩鍧囷級銆傛渶灏忎簩涔樻硶锛堝張绉版渶灏忓钩鏂规硶锛夋槸涓绉嶆暟瀛︿紭鍖栨妧鏈傚畠閫氳繃鏈灏忓寲璇樊鐨勫钩鏂瑰拰瀵绘壘鏁版嵁鐨勬渶浣冲嚱鏁板尮閰嶃傚埄鐢ㄦ渶灏忎簩涔樺彲浠ョ畝渚垮湴姹傚緱鏈煡鐨勬暟鎹紝骞朵娇寰楄繖浜涙眰寰楃殑鏁版嵁涓庡疄闄呮暟鎹箣闂磋鍏荤殑骞虫柟鍜屼负鏈灏忋傛渶灏忎簩涔樻硶杩樺彲鐢ㄤ簬鏇茬嚎鎷熷悎銆傛湭鐭ラ噺鐨勬渶鍙兘鍊...
绛旓細鏈灏忎簩涔樻硶鍏紡锛鈭(X--X骞)(Y--Y骞筹級=鈭慩^2--nX骞砠2锛堥拡瀵箉=ax+b褰㈠紡锛塧=(N危xy-危x危y)/(N危x^2-(危x)^2)b=y(骞冲潎)-a*x锛堝钩鍧囷級
绛旓細Yi-a-bXi)^2璁＄畻銆傚嵆浣滀负鎬荤宸紝骞朵娇涔嬭揪鍒版渶灏忥紝杩欐牱鍥炲綊鐩寸嚎灏辨槸鎵鏈夌洿绾夸腑闄ゅ幓鏈灏忓肩殑閭ｄ竴鏉°傝繖绉嶄娇鈥滅宸钩鏂瑰拰鏈灏忊濈殑鏂规硶锛屽彨鍋鏈灏忎簩涔樻硶銆傜敤鏈灏忎簩涔樻硶姹傚洖褰掔洿绾挎柟绋嬩腑鐨刟,b鏈夊浘涓鍜屽浘浜屾墍绀鐨勫叕寮杩涜鍙傝冦傚叾涓紝 鍜 濡傚浘涓夋墍绀猴紝涓 绉颁负鏍锋湰鐐圭殑涓績銆傗憼寮忥細...
绛旓細鐒跺悗锛屾垜浠彲浠ュ皢杩欎袱涓柟绋嬭浆鍖栦负鐭╅樀褰㈠紡锛屽緱鍒颁互涓鍏紡锛歑 = [[x1, 1], [x2, 1], ..., [xn, 1]]Y = [[y1], [y2], ..., [yn]]A = [[a], [b]]A = (X^T X)^(-1) X^T Y 鍏朵腑 X^T 琛ㄧず X 鐨勮浆缃紝^(-1) 琛ㄧず鐭╅樀鐨勯嗐傝繖涓叕寮忓氨鏄鏈灏忎簩涔樻硶鐨鏍稿績...
绛旓細鏈灏忎簩涔樻硶鍏紡鈭(X--X骞)(Y--Y骞)=鈭(XY--X骞砓--XY骞+X骞砓骞)=鈭慩Y--X骞斥垜Y--Y骞斥垜X+nX骞砓骞=鈭慩Y--nX骞砓骞--nX骞砓骞+nX骞砓骞=鈭慩Y--nX骞砓骞斥垜(X --X骞)^2=鈭(X^2--2XX骞+X骞砠2)=鈭慩^2--2nX骞砠2+nX骞砠2=鈭慩^2--nX骞砠2 ...
绛旓細Yi-a-bXi)^2璁＄畻銆傚嵆浣滀负鎬荤宸紝骞朵娇涔嬭揪鍒版渶灏忥紝杩欐牱鍥炲綊鐩寸嚎灏辨槸鎵鏈夌洿绾夸腑闄ゅ幓鏈灏忓肩殑閭ｄ竴鏉°傝繖绉嶄娇鈥滅宸钩鏂瑰拰鏈灏忊濈殑鏂规硶锛屽彨鍋鏈灏忎簩涔樻硶銆傜敤鏈灏忎簩涔樻硶姹傚洖褰掔洿绾挎柟绋嬩腑鐨刟,b鏈夊浘涓鍜屽浘浜屾墍绀鐨勫叕寮杩涜鍙傝冦傚叾涓紝 鍜 濡傚浘涓夋墍绀猴紝涓 绉颁负鏍锋湰鐐圭殑涓績銆傗憼寮忥細...
绛旓細鐢鏈灏忎簩涔樻硶姹傚洖褰掔洿绾挎柟绋嬩腑鐨刟銆乥鐨勫叕寮濡備笅锛氬叾涓紝銆佷负鍜岀殑鍧囧硷紝a銆乥鐨勪笂鏂瑰姞鈥滐缚鈥濊〃绀烘槸鐢辫瀵熷兼寜鏈灏忎簩涔樻硶姹傚緱鐨勪及璁″硷紝a銆乥姹傚嚭鍚庯紝鍥炲綊鐩寸嚎鏂圭▼涔熷氨寤虹珛璧锋潵浜嗐傚綋鐒讹紝鎴戜滑鑲畾涓嶈兘婊¤冻浜庣洿鎺ュ緱鍒板叕寮忥紝鎴戜滑鍙湁鐞嗚В杩欎釜鍏紡鎬庝箞鏉ョ殑鎵嶈兘璁颁綇瀹冿紝鐢ㄥソ瀹冿紝鍥犳缁欏嚭涓婇潰涓や釜鍏紡鐨...
