求解神经网络做十字交叉验证k=10，这种方法到底是得到十个模型还是一个模型 k折交叉验证bp神经网络代码
\u6c42\u89e3\u795e\u7ecf\u7f51\u7edc\u505a\u5341\u5b57\u4ea4\u53c9\u9a8c\u8bc1k=10\uff0c\u8fd9\u79cd\u65b9\u6cd5\u5230\u5e95\u662f\u5f97\u5230\u5341\u4e2a\u6a21\u578b\u8fd8\u662f\u4e00\u4e2a\u6a21\u578b\u968f\u673a\u4ece\u4e00\u7ec4\u6d4b\u5b9a\u6570\u636e\u4e2d\u62bd\u53d6\u4e00\u90e8\u5206\u6570\u636e\u6765\u5efa\u7acb\u6a21\u578b\uff0c\u7528\u5176\u4f59\u7684\u6570\u636e\u6765\u68c0\u9a8c\u6b64\u6a21\u578b\u7684\u65b9\u6cd5\u3002\u5982\u5728\u4eba\u5de5\u795e\u7ecf\u7f51\u7edc\u6cd5\u4e2d\uff0c\u968f\u673a\u4ece\u4e00\u7ec4\u6d4b\u5b9a\u6570\u636e\u4e2d\u62bd\u53d6\u4e00\u90e8\u5206\u6570\u636e\u6765\u8bad\u7ec3\u7f51\u7edc\uff0c\u83b7\u5f97\u6743\u7cfb\u6570\uff0c\u6839\u636e\u6240\u5f97\u5230\u7684\u6743\u7cfb\u6570\u8fdb\u884c\u9884\u6d4b\uff0c\u4ee5\u9884\u6d4b\u503c\u4e0e\u5b9e\u9a8c\u503c\u7684\u5dee\u503c\u4f5c\u4e3a\u8bc4\u4ef7\u53c2\u6570\uff0c\u6765\u6821\u9a8c\u6240\u5efa\u7acb\u7684\u7f51\u7edc\u6a21\u578b\u3002
\u5982\u679c\u4f60\u53ea\u9700\u8981bp\u795e\u7ecf\u7f51\u7edc\u7684\u4ee3\u7801\uff0c\u6211\u6709\u3002k\u6298\u4ea4\u53c9\u7684\u6ca1\u5199\u3002\u3002
交叉验证(Cross-validation)的好处是可以从有限的学习数据中获取尽可能多的有效信息,从而获得更合适的两层权值;并且此方法是从多个方向开始学习样本,可以有效的避免陷入局部极小值。采用交叉验证方法的前提是将神经网络已有的学习数据分为两部分:训练数据和验证数据。先对训练数据进行学习得到权值,用权值检验验证数据得到一个正确率,如果达到了标准,则进行下一组的训练数据的学习,否则用训练样本学习修改权值。为了得到好的学习效果,无论训练样本还是验证样本都要尽可能参与学习。一般选取10重交叉验证(10-foldcross-validation)[5]可以得到较好的学习效果。绛旓細涓鑸夊彇10閲浜ゅ弶楠岃瘉(10-foldcross-validation)[5]鍙互寰楀埌杈冨ソ鐨勫涔犳晥鏋溿
绛旓細闅忔満浠庝竴缁勬祴瀹氭暟鎹腑鎶藉彇涓閮ㄥ垎鏁版嵁鏉ュ缓绔嬫ā鍨嬶紝鐢ㄥ叾浣欑殑鏁版嵁鏉ユ楠屾妯″瀷鐨勬柟娉曘傚鍦ㄤ汉宸绁炵粡缃戠粶娉曚腑锛岄殢鏈轰粠涓缁勬祴瀹氭暟鎹腑鎶藉彇涓閮ㄥ垎鏁版嵁鏉ヨ缁冪綉缁滐紝鑾峰緱鏉冪郴鏁帮紝鏍规嵁鎵寰楀埌鐨勬潈绯绘暟杩涜棰勬祴锛屼互棰勬祴鍊间笌瀹為獙鍊肩殑宸间綔涓鸿瘎浠峰弬鏁帮紝鏉ユ牎楠屾墍寤虹珛鐨勭綉缁滄ā鍨嬨
绛旓細k-cross鏄寚灏嗘暣涓暟鎹泦鍒嗕负k涓儴鍒嗚繘琛浜ゅ弶楠岃瘉鐨勬柟娉曘傚叾涓紝k閫氬父鍙栧间负5鎴10锛岃〃绀哄皢鏁版嵁闆嗗钩鍧囧垎鍓叉垚5鎴10浠姐傛瘡娆￠夋嫨鍏朵腑涓浠戒綔涓洪獙璇侀泦锛屽叾浠杒-1浠戒綔涓鸿缁冮泦锛屼緷娆¤繘琛屼氦鍙夐獙璇侊紝浠ョ‘淇濇ā鍨嬬殑绋冲畾鎬у拰鍑嗙‘鎬с俴-cross浜ゅ弶楠岃瘉鏄満鍣ㄥ涔犻鍩熷父鐢ㄧ殑妯″瀷璇勪及鏂规硶锛岄傜敤浜庡悇绉嶆ā鍨嬶紝濡傚喅绛栨爲銆...
绛旓細L1/L2姝ｅ垯鍖栵細 鍚戞崯澶卞嚱鏁版坊鍔燣1鎴朙2鑼冩暟鎯╃綒椤癸紝闄愬埗妯″瀷鍙傛暟鐨勫ぇ灏忥紝闃叉妯″瀷杩囧害鎷熷悎璁粌鏁版嵁銆侱ropout锛 鍦ㄨ缁冭繃绋嬩腑闅忔満鍏抽棴涓浜涚缁忓厓鑺傜偣锛屽噺灏绁炵粡缃戠粶鐨勫鏉傚害鍜岃﹀悎鎬э紝闄嶄綆妯″瀷杩囨嫙鍚堢殑椋庨櫓銆3. 浜ゅ弶楠岃瘉 K鎶樹氦鍙夐獙璇侊細 灏嗘暟鎹泦鍒嗕负K涓瓙闆嗭紝渚濇閫夊彇鍏朵腑涓涓瓙闆嗕綔涓洪獙璇侀泦锛屽叾浣欎綔涓鸿缁冮泦...
绛旓細棣栧厛,鎴戜滑搴旇鏄庣櫧SVM鍜绁炵粡缃戠粶妯″瀷绠楁硶鏄睘浜庢湁鐩戠潱瀛︿範,鍗抽渶瑕佸鏍锋湰杩涜鏍囨敞,涔熷氨鏄爣璁版瘡寮犲浘鐗囪〃绀虹殑鏄偅涓暟瀛,浣嗘槸瀹為檯閬囧埌鐨勯棶棰樻槸,濡傛灉鏁版嵁閲忓皬鐨勮瘽,鎴戜滑鍙互杩涜浜哄伐鏍囨敞,閭ｄ箞鍦ㄦ暟鎹噺姣旇緝澶х殑鎯呭喌涓,浜哄伐鏍囨敞鍙兘灏变笉澶幇瀹炰簡,鎵浠ュ浜庡浘鐗囨潵璇寸殑璇濅篃涓鏍,浣犺繘琛屽垏鍓插畬鎴愪箣鍚庝綘蹇呴』寰楁爣娉ㄨ繖涓暟瀛楁槸鍑,...
绛旓細1銆佹墍浠ヨ灏介噺閫夋嫨杈撳嚭鍏锋湁zero-centered鐗圭偣鐨勬縺娲诲嚱鏁颁互鍔犲揩妯″瀷鐨勬敹鏁涢熷害銆2銆佹瘮濡傚湪BP绁炵粡缃戠粶涓紝鍏剁洰鐨勪富瑕佷负浜嗛夋嫨妯″瀷鐨勫眰鏁般佺缁忓厓鐨勬縺娲诲嚱鏁般佹瘡灞傛ā鍨嬬殑绁炵粡鍏冧釜鏁(鍗虫墍璋撶殑瓒呭弬鏁)锛屾瘡涓灞缃戠粶绁炵粡鍏冭繛鎺ョ殑鏈缁堟潈閲嶆槸鍦ㄦā鍨嬮夋嫨(鍗K鎶浜ゅ弶楠岃瘉)涔嬪悗锛岀敱鍏ㄩ儴鐨勮缁冩暟鎹噸鏂拌缁冦3銆侀夊彇璁粌...
绛旓細 K-fold浜ゅ弶楠岃瘉灏辨槸鎶婂師濮嬫暟鎹殢鏈哄垎鎴怟涓儴鍒嗭紝鍦ㄨ繖K涓儴鍒嗕腑閫夋嫨涓涓綔涓烘祴璇曟暟鎹紝鍓╀綑鐨凨-1涓綔涓鸿缁冩暟鎹備氦鍙夐獙璇佺殑杩囩▼瀹為檯涓婃槸灏嗗疄楠岄噸澶鍋欿娆★紝姣忔瀹為獙閮戒粠K涓儴鍒嗕腑閫夋嫨涓涓笉鍚岀殑閮ㄥ垎浣滀负娴嬭瘯鏁版嵁锛屽墿浣欑殑鏁版嵁浣滀负璁粌鏁版嵁杩涜瀹為獙锛屾渶鍚庢妸寰楀埌鐨凨涓疄楠岀粨鏋滃钩鍧囥 ...
绛旓細1銆侀鍏堝皢鎵鏈塸ytorch鍒嗙被绁炵粡缃戠粶鏁版嵁闆嗗垎鎴5浠斤紝涓嶉噸澶嶅湴姣忔鍙栧叾涓竴浠藉仛娴嬭瘯闆嗐2銆佸叾娆＄敤鍏朵綑鍥涗唤鍋氳缁冮泦璁粌妯″瀷锛屼箣鍚庤绠楄妯″瀷鍦ㄦ祴璇曢泦涓奙SE銆3銆佹渶鍚庡皢5娆＄殑MSE鍙栧钩鍧囧緱鍒版渶鍚庣殑MS杩涜闆嗗悎锛屽嵆鍙疄鐜颁簲鎶浜ゅ弶楠岃瘉銆
绛旓細2銆佹瘮濡傚湪BP绁炵粡缃戠粶涓紝鍏剁洰鐨勪富瑕佷负浜嗛夋嫨妯″瀷鐨勫眰鏁般佺缁忓厓鐨勬縺娲诲嚱鏁般佹瘡灞傛ā鍨嬬殑绁炵粡鍏冧釜鏁(鍗虫墍璋撶殑瓒呭弬鏁)锛屾瘡涓灞缃戠粶绁炵粡鍏冭繛鎺ョ殑鏈缁堟潈閲嶆槸鍦ㄦā鍨嬮夋嫨(鍗K鎶浜ゅ弶楠岃瘉)涔嬪悗锛岀敱鍏ㄩ儴鐨勮缁冩暟鎹噸鏂拌缁冦3銆侀夊彇璁粌绁炵粡缃戠粶鏃跺厛閫夊ソbatchsize锛屽啀璋冨叾浠栫殑瓒呭弬鏁般傚苟涓斿疄璺典笂鏉ヨ锛屽氨涓や釜鍘熷垯...
绛旓細- 閲囩敤浜ゅ弶楠岃瘉璁粌妯″瀷 - 閲嶆柊绛涢夌壒寰 - 闄嶄綆妯″瀷澶嶆潅搴(澧炲姞姝ｅ垯椤:L1,L2) - dropout(绁炵粡缃戠粶涓,璁╃缁忓厓涓瀹氱殑姒傜巼涓嶅伐浣) 杩欓噷鎺㈣濡備綍鍒╃敤浜ゅ弶楠岃瘉鏉ラ伩鍏嶆ā鍨嬭繃鎷熷悎: 绗竴涓綔鐢ㄦ槸瀵规ā鍨嬬殑鎬ц兘杩涜璇勪及 銆傚綋鎴戜滑閫氳繃涓娆″垝鍒嗘牱鏈妯″瀷杩涜璁粌鍜屾祴璇曟椂,鐢变簬鏍锋湰鍒掑垎鐨勫伓鐒舵,浼氬鑷存垜浠妯″瀷鐨勮瘎浼...
