什么是最小二乘法
最小二乘法：
总离差不能用n个离差之和
来表示，通常是用离差的平方和，即
作为总离差，并使之达到最小，这样回归直线就是所有直线中Q取最小值的那一条，这种使“离差平方和最小”的方法，叫做最小二乘法：
由于绝对值使得计算不变，在实际应用中人们更喜欢用：Q=（y1-bx1-a）²+（y2-bx-a²）+。。。+（yn-bxn-a）²
这样，问题就归结于：当a，b取什么值时Q最小，即到点直线y=bx+a的“整体距离”最小。
用最小二乘法求回归直线方程中的a,b有下面的公式
绛旓細鏈灏忎簩涔樻硶锛堝張绉版渶灏忓钩鏂规硶锛夋槸涓绉嶆暟瀛︿紭鍖栨妧鏈傚畠閫氳繃鏈灏忓寲璇樊鐨勫钩鏂瑰拰瀵绘壘鏁版嵁鐨勬渶浣冲嚱鏁板尮閰銆傚埄鐢ㄦ渶灏忎簩涔樻硶鍙互绠渚垮湴姹傚緱鏈煡鐨勬暟鎹紝骞朵娇寰楄繖浜涙眰寰楃殑鏁版嵁涓庡疄闄呮暟鎹箣闂磋宸殑骞虫柟鍜屼负鏈灏忋傛渶灏忎簩涔樻硶杩樺彲鐢ㄤ簬鏇茬嚎鎷熷悎銆傚叾浠栦竴浜涗紭鍖栭棶棰樹篃鍙氳繃鏈灏忓寲鑳介噺鎴栨渶澶у寲鐔电敤鏈灏忎簩涔樻硶鏉...
绛旓細1銆佹渶灏忎簩涔樻硶鐨勫師鐞嗭細鏈灏忎簩涔樻硶鐨勫熀鏈師鐞嗘槸閫氳繃鏈灏忓寲瀹為檯鏁版嵁鍜岀悊璁烘ā鍨嬩箣闂寸殑璇樊骞虫柟鍜屾潵鎵惧埌鏈浣崇殑鎷熷悎鍙傛暟銆傝繖涓宸钩鏂瑰拰鍙互琛ㄧず涓猴細瀹為檯鏁版嵁涓庣悊璁烘ā鍨嬩箣闂寸殑宸窛锛屽樊璺濊秺灏忚鏄庢嫙鍚堝害瓒婇珮銆2銆佹渶灏忎簩涔樻硶鐨勫簲鐢細鏈灏忎簩涔樻硶鍙互鐢ㄤ簬鍚勭涓嶅悓鐨勯鍩熴傚湪缁熻瀛︿腑锛屽畠鍙互鐢ㄤ簬鎷熷悎绾挎у洖褰掓ā...
绛旓細鏈灏忎簩涔樻硶锛堝張绉版渶灏忓钩鏂规硶锛夋槸涓绉嶆暟瀛︿紭鍖栨妧鏈傚畠閫氳繃鏈灏忓寲璇樊鐨勫钩鏂瑰拰瀵绘壘鏁版嵁鐨勬渶浣冲嚱鏁板尮閰銆傚埄鐢ㄦ渶灏忎簩涔樻硶鍙互绠渚垮湴姹傚緱鏈煡鐨勬暟鎹紝骞朵娇寰楄繖浜涙眰寰楃殑鏁版嵁涓庡疄闄呮暟鎹箣闂磋宸殑骞虫柟鍜屼负鏈灏忋傛渶灏忎簩涔樻硶杩樺彲鐢ㄤ簬鏇茬嚎鎷熷悎銆傚叾浠栦竴浜涗紭鍖栭棶棰樹篃鍙氳繃鏈灏忓寲鑳介噺鎴栨渶澶у寲鐔电敤鏈灏忎簩涔樻硶鏉...
绛旓細鏈灏忎簩涔樻硶鐨勫熀鏈師鐞嗘槸閫氳繃鏈灏忓寲璇樊鐨勫钩鏂瑰拰鏉ュ鎵炬暟鎹殑鏈浣冲嚱鏁板尮閰銆瀹冧富瑕佺敤浜庢洸绾挎嫙鍚堬紝浠ヨВ鍐冲洖褰掗棶棰銆傛渶灏忎簩涔樻硶鏄竴绉嶅湪璇樊浼拌銆佷笉纭畾搴︺佺郴缁熻鲸璇嗗強棰勬祴銆侀鎶ョ瓑鏁版嵁澶勭悊璇稿瀛︾棰嗗煙寰楀埌骞挎硾搴旂敤鐨勬暟瀛﹀伐鍏枫傛渶灏忎簩涔樻硶锛堝張绉版渶灏忓钩鏂规硶锛夋槸涓绉嶆暟瀛︿紭鍖栨妧鏈傚畠閫氳繃鏈灏忓寲璇樊鐨勫钩鏂...
绛旓細鏈灏忎簩涔樻硶鏄竴绉嶇敤浜庡鎵炬暟鎹渶浣虫嫙鍚堢嚎鎴栨洸绾跨殑鏂规硶銆傚畠鐨勬牳蹇冩濇兂鏄紝閫氳繃鏈灏忓寲 瑙傛祴鏁版嵁鐐逛笌鎷熷悎绾匡紙鎴栨洸绾匡級涔嬮棿鐨勫瀭鐩磋窛绂荤殑骞虫柟鍜岋紝鏉ョ‘瀹氭渶浣虫嫙鍚堢殑鍙傛暟銆傛兂璞′竴缁勬暎鐐规暟鎹紝浣犳兂瑕佹壘鍒颁竴鏉＄洿绾挎垨鏇茬嚎锛屼娇寰楁墍鏈夎繖浜涚偣鍒拌繖鏉＄嚎锛堟垨鏇茬嚎锛夌殑璺濈涔嬪拰鐨勫钩鏂瑰敖鍙兘灏忋傛渶灏忎簩涔樻硶灏辨槸涓轰簡鎵...
绛旓細鏈灏忎簩涔樻硶锛屽張绉版渶灏忓钩鏂规硶锛屾槸涓绉嶆暟瀛︽妧鏈傚畠閫氳繃鏈灏忚宸殑骞虫柟鍜屽鎵炬暟鎹嚱鏁扮殑鏈浣冲尮閰嶃傛渶灏忎簩涔樻硶鏄彁渚涒滆娴嬬粍鍚堚濈殑涓昏宸ュ叿涔嬩竴锛屽畠渚濇嵁瀵规煇浜嬩欢鐨勫お閲忚娴嬭岃幏寰楁渶浣崇粨鏋滄垨鈥滄渶鍙兘鈥濊〃鐜板舰寮忋傚宸辩煡涓ゅ彉閲忎负绾挎у叧绯籝=u+濂筹紝瀵瑰叾杩涜>2)娆¤娴嬭岃幏寰楀鏁版嵁銆傝嫢灏嗚繖鈥濆鏁版嵁浠ｅ叆...
绛旓細瀹氫箟 鏈灏忎簩涔樻硶锛堝張绉版渶灏忓钩鏂规硶锛夋槸涓绉嶆暟瀛︿紭鍖栨妧鏈銆傚畠閫氳繃鏈灏忓寲璇樊鐨勫钩鏂瑰拰瀵绘壘鏁版嵁鐨勬渶浣冲嚱鏁板尮閰嶃傚埄鐢ㄦ渶灏忎簩涔樻硶鍙互绠渚垮湴姹傚緱鏈煡鐨勬暟鎹紝骞朵娇寰楄繖浜涙眰寰楃殑鏁版嵁涓庡疄闄呮暟鎹箣闂磋宸殑骞虫柟鍜屼负鏈灏忋傛渶灏忎簩涔樻硶杩樺彲鐢ㄤ簬鏇茬嚎鎷熷悎锛屽叾浠栦竴浜涗紭鍖栭棶棰樹篃鍙氳繃鏈灏忓寲鑳介噺鎴栨渶澶у寲鐔电敤鏈灏忎簩涔...
绛旓細鏈灏忎簩涔樻硶锛堝張绉版渶灏忓钩鏂规硶锛夋槸涓绉嶆暟瀛︿紭鍖栨妧鏈銆傚畠閫氳繃鏈灏忓寲璇樊鐨勫钩鏂瑰拰瀵绘壘鏁版嵁鐨勬渶浣冲嚱鏁板尮閰嶃傚埄鐢ㄦ渶灏忎簩涔樻硶鍙互绠渚垮湴姹傚緱鏈煡鐨勬暟鎹紝骞朵娇寰楄繖浜涙眰寰楃殑鏁版嵁涓庡疄闄呮暟鎹箣闂磋宸殑骞虫柟鍜屼负鏈灏忋傝闊筹細[ zu矛 xi菐o 猫r ch茅ng f菐 ]鍘嗗彶锛1801骞达紝鎰忓ぇ鍒╁ぉ鏂囧瀹舵湵璧涙櫘路鐨簹榻愬彂鐜颁簡绗...
绛旓細鏈灏忎簩涔浼拌閲忔槸鍏锋湁鏈灏忔柟宸殑绾挎ф棤鍋忎及璁￠噺銆傛潯浠舵敹鏁涘苟涓嶈兘淇濊瘉鏈熸湜涓瀹氬瓨鍦紝濡傦細鈭憍p锛寈=n锛宲=1/n 脳锛-1锛夌殑n娆℃柟 锛屸垜p涓烘潯浠舵敹鏁涳紝鈭戯紙-1锛夌殑n娆℃柟鐨勫兼槸涓嶅瓨鍦ㄧ殑銆傜幇浠ｇ幆澧冧笅锛屽埄鐢ㄧ伒娲绘棤搴忕殑缃戠粶浼犳挱锛岃埃瑷浼犳挱鍙樼殑閫熷害鏇村揩銆佷綔鐢ㄥ姏鏇村己銆傛湁浜涙祦瑷鍦ㄤ紶鎾腑锛屽父甯稿彉鏍凤紝杩欎竴鏂归潰...
