朴素贝叶斯分类所涉及的贝叶斯推理公式
朴素贝叶斯分类所涉及的贝叶斯推理公式是：P(A)*P(B|A) = P(B)*P(A|B)。
贝叶斯定理由英国数学家贝叶斯 ( Thomas Bayes 1702-1761 ) 发展，用来描述两个条件概率之间的关系，比如 P(A|B) 和 P(B|A)。
按照乘法法则，可以立刻导出：P(A∩B) = P(A)*P(B|A)=P(B)*P(A|B)。如上公式也可变形为：P(B|A) = P(A|B)*P(B) / P(A)。贝叶斯定理可以通过条件概率推导。图中A和B是两个事件，条件概率指某个事件发生后另外一个事件发生的概率。
用数学符号表示，P(A|B)指事件B发生的条件下，事件A发生的概率。反之，P(B|A)指事件A发生的条件下，事件B发生的概率。A和B两个事件同时为真的概率，它既等于事件A发生的概率乘以事件A发生后事件B发生的条件概率，也等于它既等于事件B发生的概率乘以事件B发生后事件A发生的条件概率。
关于硬币的例子：
概率论喜欢拿硬币来举例子，这里我们也举个硬币例子，主要是借用naturemethods上发表的一个直观的图示。我们有两个“公平”的硬币，掷硬币之后正面的概率都是50%，即P(H) = 50%。在这种情况下，选择特定硬币C和特定结果正面H的联合概率是它们各自概率的积，P(C,H) = P(C)*P(H)。
倘若我们把其中一个硬币换成一个有偏向的硬币，这个硬币75%的抛掷结果是正面，这个时候硬币选择和正反面就不是独立事件。两个事件之间的关系可用上面提到的条件概率来表示，P(H|Cb) = 75%。
P(Cb)是在抛掷硬币前我们对于硬币是有偏向的概率的“猜测”，即先验概率。而P(Cb|H)是硬币抛掷结果出来后，我们对于硬币是有偏向性的概率的重新“猜测”，即后验概率。P(H|Cb)等于0.75， P(Cb)等于0.5；而P(H)等于P(H|C)*P(C) + P(H|Cb)*P(Cb),等于0.625。根据贝叶斯公式，我们可知，P(Cb|H)等于0.6。
由上，我们通过一次硬币抛掷结果，由先验概率获得后验概率。倘若硬币抛掷继续进行，我们有越来越多的“数据”，下一次抛掷结果还是正面（有人认定那个有偏向的硬币，出老千哦），我们可以用第一次获得的后验概率对原先假设的先验概率进行更新，然后从新利用贝叶斯公式计算新的后验概率。
绛旓細瀵逛簬鐔熸倝姒傜巼鐞嗚鐨勫涔犺咃紝璐濆彾鏂畾鐞嗘棤鐤戞槸鍩虹涓殑鍩虹锛屽畠鐨勫巻鍙插彲杩芥函鑷250澶氬勾鍓嶏紝鑷充粖浠嶅崰鎹潃淇℃伅澶勭悊棰嗗煙鐨勬牳蹇冨湴浣嶃傚叾涓紝璐濆彾鏂垎绫荤畻娉曞鏃忎互鍏剁嫭鐗圭殑浼樺娍鍦ㄤ紬澶氬垎绫绘柟娉曚腑鑴遍鑰屽嚭锛岃屾湸绱犺礉鍙舵柉锛圢aive Bayesian锛夌畻娉曟洿鏄叾涓渶涓哄箍娉涘簲鐢ㄧ殑浠ｈ〃涔嬩竴銆鏈寸礌璐濆彾鏂垎绫鍣ㄧ殑璁捐鍘熺悊寤虹珛鍦ㄤ竴涓...
绛旓細鏈寸礌璐濆彾鏂锛屽氨鍍忎綘鐨勫ソ鏈嬪弸锛岀敤涓涓畝鍗曠殑鏁呬簨鏉ュ府鍔╂垜浠悊瑙ｃ傚亣璁句綘鍚鐡滃啘鍛婅瘔浣狅紝鐡滄垚鐔熺殑姒傜巼鏄60%锛堝厛楠屾鐜囷級锛岃岄氳繃瑙傚療鐡滆拏鑴辫惤杩欎釜鐗瑰緛锛屽垽鏂タ鐡滄垚鐔熺殑姒傜巼涓婂崌鍒75%锛堝悗楠屾鐜囷級銆傝繖灏卞儚鏄潯浠舵鐜囧湪璧蜂綔鐢紝鍛婅瘔鎴戜滑鐡滆拏鑴辫惤鏇村彲鑳芥剰鍛崇潃鐡滅啛銆傚崟鐗瑰緛鍒ゆ柇鐨勮礉鍙舵柉瀹氱悊</ 褰撳喅瀹氫拱鍝彧鐡...
绛旓細Python瀹炴垬涓庡叕寮忔帹瀵艰垷鏅撳崡鐨勬暀绋嬫繁鍏ユ祬鍑哄湴浠嬬粛浜嗘湸绱犺礉鍙舵柉鐨凱ython瀹炶返锛屽寘鎷礉鍙舵柉浼拌鍜岄伩鍏嶄笅婧㈠嚭闂鐨勬柟娉曘備緥濡傦細璐濆彾鏂叕寮忓舰寮忓寲锛氳仈鍚堛佽竟缂樺拰鏉′欢姒傜巼涔嬮棿鐨勬ˉ姊併4. 鍒嗙被鍣ㄧ殑杩愮畻涓庡鐞鏈寸礌璐濆彾鏂垎绫鍣ㄩ氳繃瀛︿範鐗瑰緛鐨勮仈鍚堟鐜囧垎甯冿紝閫氳繃鏉′欢鐙珛鎬у亣璁撅紝灏嗗鏉傜殑鏉′欢姒傜巼璁＄畻绠鍖栦负鍗曚釜浜嬩欢鐨勬鐜...
绛旓細锛堝鏍锋湰绌洪棿鐨勭悊瑙ｈ鍙傝 鐞嗚В璐濆彾鏂畾鐞 锛夈傚皢(5)甯﹀洖(4)寰 瀵逛换涓缁欏畾鐨勬牱鏈瑇鐨勫兼槸纭畾鐨勶紝涓攛涓嶄緷璧栦簬C锛屾墍浠(x)鍙互鐪嬩綔甯搁噺銆傛墍浠ュ彲浠ュ拷鐣 銆 杩欏氨鏄鏈寸礌璐濆彾鏂垎绫荤殑妯″瀷鍑芥暟銆備笂杩板叕寮忎腑涓昏鏈変袱椤癸紝鍒嗗埆鑰冨療涓涓嬪浣曡绠椼備笂寮忎腑 姣旇緝瀹规槗璁＄畻锛岀敤棰戠巼鏉ヤ及绠楁鐜囷紝缁熻m...
绛旓細鏈寸礌璐濆彾鏂垎绫鏄竴绉嶅熀浜庤礉鍙舵柉瀹氱悊鐨勫垎绫绘柟娉曘傚湪璇ユ柟娉曚腑锛屾垜浠鍏堣绠楁瘡涓壒寰侊紙濡傚崟璇嶃佸儚绱犵瓑锛変笌姣忎釜绫诲埆涔嬮棿鐨勬潯浠舵鐜囷紝鐒跺悗浣跨敤璐濆彾鏂畾鐞嗘潵璁＄畻缁欏畾鐗瑰緛鏃舵瘡涓被鍒殑鍚庨獙姒傜巼銆傛渶缁堬紝鎴戜滑灏嗘牱鏈垎閰嶅埌鍏锋湁鏈楂樺悗楠屾鐜囩殑绫诲埆涓傗滄湸绱犫濊繖涓瘝鎸囩殑鏄亣璁炬墍鏈夌壒寰侀兘鏄嫭绔嬬殑锛岃繖浣垮緱璁＄畻鏉′欢姒傜巼...
绛旓細鏈寸礌璐濆彾鏂垎绫鍣ㄦ槸涓绉嶅簲鐢ㄥ熀浜庣嫭绔嬪亣璁鐨勮礉鍙舵柉瀹氱悊鐨勭畝鍗曟鐜囧垎绫诲櫒銆備箣鎵浠ユ垚涓烘湸绱狅紝搴旇鏄疦aive鐨勭洿璇戯紝鎰忔濅负绠鍗曪紝鏈寸礌锛屽ぉ鐪熴傛湸绱犺礉鍙舵柉鍒嗙被鏄渶甯哥敤鐨勪袱澶у垎绫荤畻娉曪紙鍐崇瓥鏍戝垎绫诲拰鏈寸礌璐濆彾鏂垎绫伙級銆傚垎绫绘槸灏嗕竴涓湭鐭ユ牱鏈垎鍒板嚑涓鍏堝凡鐭ョ被鐨勮繃绋嬨傛湸绱犺礉鍙舵柉鍒嗙被鏄熀浜庤礉鍙舵柉姒傜巼鐨勬濇兂锛屽亣璁惧睘鎬т箣闂...
绛旓細鏈涓哄箍娉涚殑涓ょ鍒嗙被妯″瀷鏄喅绛栨爲妯″瀷(Decision Tree Model)鍜屾湸绱犺礉鍙舵柉妯″瀷锛圢aive Bayesian Model锛孨BM锛夈傚拰鍐崇瓥鏍戞ā鍨嬬浉姣旓紝鏈寸礌璐濆彾鏂垎绫鍣(Naive Bayes Classifier 鎴 NBC)鍙戞簮浜庡彜鍏告暟瀛︾悊璁猴紝鏈夌潃鍧氬疄鐨勬暟瀛﹀熀纭锛屼互鍙婄ǔ瀹氱殑鍒嗙被鏁堢巼銆傚悓鏃讹紝NBC妯″瀷鎵闇浼拌鐨勫弬鏁板緢灏戯紝瀵圭己澶辨暟鎹笉澶晱鎰燂紝绠楁硶涔...
绛旓細鏈寸礌璐濆彾鏂鏄熀浜庤礉鍙舵柉瀹氱悊涓庣壒寰佹潯浠剁嫭绔嬪亣璁剧殑鍒嗙被鏂规硶銆傚浜庣粰瀹氱殑璁粌鏁版嵁闆嗭紝棣栧厛鍩轰簬鐗瑰緛鏉′欢鐙珛鍋囪瀛︿範杈撳叆杈撳嚭鐨勮仈鍚堟鐜囧垎甯冿紝鐒跺悗鍩轰簬妯″瀷锛屽缁欏畾鐨勮緭鍏锛屽埄鐢ㄨ礉鍙舵柉瀹氱悊姹傚嚭鍚庨獙姒傜巼鐨勬渶澶х殑杈撳嚭y銆傚叿浣撶殑鎺ㄥ鍙互鍙傝冪綉涓婄殑鍗氭枃锛岃繖閲屼笉鍐嶈繘琛屽彊杩般傚叾涓璓(A)绉颁箣涓哄厛楠屾鐜囷紝鎴戜滑甯屾湜姹傚緱鐨凱...
绛旓細2.鍐崇瓥鏍戯細鏄竴涓娴嬫ā鍨嬶紝浠ｈ〃鐨勬槸瀵硅薄灞炴т笌瀵硅薄鍊间箣闂寸殑涓绉嶆槧灏勫叧绯汇3.鏈寸礌璐濆彾鏂垎绫锛氬浜庣粰鍑虹殑寰呭垎绫婚」锛屾眰瑙ｆ椤瑰嚭鐜扮殑鏉′欢涓嬪悇涓被鍒嚭鐜扮殑姒傜巼锛屽摢涓渶澶э紝灏辫涓烘寰呭垎绫诲睘浜庡摢涓被鍒傝礉鍙舵柉鍏紡涓猴細p锛圓|B锛=p锛圔|A锛*p锛圓/p锛圔锛夛紝鍏朵腑P锛圓|B锛夎〃绀哄悗楠屾鐜囷紝P锛圔|A锛夋槸...
绛旓細鏈寸礌璐濆彾鏂绠楁硶灞炰簬鍒嗙被绠楁硶銆傚彂婧愪簬鍙ゅ吀鏁板鐞嗚锛屽缂哄け鏁版嵁涓嶅お鏁忔劅锛屾湁绋冲畾鐨勫垎绫绘晥鐜囷紝妯″瀷鎵闇浼拌鐨勫弬鏁板緢灏戯紝绠楁硶姣旇緝绠鍗曘傛湸绱犺礉鍙舵柉绠楁硶 锛 璐濆彾鏂 鏄鏄庤繖涓畻娉曞拰璐濆彾鏂畾鐞嗘湁鑱旂郴锛岃 鏈寸礌 鏄洜涓哄鐞嗗疄闄呯殑闇瑕侊紝鍋氫簡涓涓畝鍖栤斺 鍋囪姣忎釜鐗瑰緛涔嬮棿鏄嫭绔嬬殑 锛堝鏋滅爺绌剁殑瀵硅薄浜掔浉涔嬮棿鐨勫奖鍝嶅緢...
