阿里首款AI推理芯片“含光800”问世，阿里的“造芯”过程是怎样的？
在2019年云栖大会主论坛，阿里巴巴CTO、达摩院院长张建锋从口袋里掏出一款看得见、摸得着的芯片：含光800。这是一款AI芯片，重点应用于机器视觉中，如图片识别、视频识别等。作为平头哥半导体公司首颗自主研发的芯片，含光800成为云栖大会主论坛的热门话题。
一年前的云栖大会上，平头哥半导体公司宣告成立，这是阿里首次对外宣告要自主造芯，但事实上，阿里很早就已想要拥有自己的芯片，并为此筹谋许久。阿里当时宣布正在打造内部代号为“Ali-NPU”的芯片，主要针对图像和视频的AI任务加速场景，按照设计，Ali-NPU的性能将是同类产品的40倍。对于“40倍”这个数字，当时很多人是不信的。从定位来看，含光800应该就是一年前所说的Ali-NPU，我注意到在发布会现场，张建锋数次强调这款芯片
很“大”——移动端芯片因为应用场景要求往往都强调体积的小，这意味着含光800的应用场景不是终端，而是云端服务器。“大”不是指体积大，而是计算能力强大，其每秒能处理78000张图片。仅仅是从晶体管数量来看，含光800拥有170亿个晶体管就远超同行。最能体现出其算力强大的则是一组对比数据。
在业界标准的ResNet-50测试中，含光800推理性能达到78563 IPS，比目前业界最好的AI芯片Habana Goya 高4倍；能效比500 IPS/W是其3.3倍。跟一年前市面上的英伟达P4比，性能有46倍的优势，“Ali-NPU 性能40倍于同类产品”不是吹牛。
研发应该是非常困难的，但是成果是丰厚的。
还是召集了很多的技术人才一起来研发吧。
阿里巴巴他们这么做的话，也是非常的困难。
阿里推出的AI推理芯片含光800。芯片的研发是非常困难的，团队是经过了十多年的研发。
绛旓細AI鑺墖鈥鍚厜800鈥濈殑闂笘锛岀殑纭浜虹溂鍓嶄竴浜2019骞9鏈25鍙凤紝闃块噷宸村反鏃椾笅杈炬懇闄㈤櫌闀垮紶寤哄嘲鐜板満灞曠ず浜嗚繖娆綼I鑺墖锛屽湪涓氬唴鏍囧噯鐨勬祴璇曞綋涓紝鍚厜800鎺ㄧ悊鎬ц兘杈惧埌浜78563 Ips锛屾瘮鐩墠涓氱晫鏈濂界殑AI鑺墖鎬ц兘楂4鍊嶃傗滃惈鍏800鈥濓紝鍙彁渚涗笟鐣屾渶寮虹殑aI鎺ㄧ悊绠楀姏锛岄偅涔堢敤涓涓舰璞＄殑姣斿柣锛屽氨鏄瘡绉掗挓鍙互澶勭悊78,...
绛旓細闃块噷棣栨AI鑺墖鍚厜800鎵撶牬璁板綍锛氬叏鐞冩渶寮烘帹鐞嗚姱鐗囩殑鐐兼垚绉樼睄 涓婂懆锛岄樋閲屽彂甯冨惈鍏800锛岃繖娆句簯绔疉I鑺墖鍦ㄥ叏鐞AI鎺ㄧ悊鑺墖棰嗗煙宕湶澶磋銆傚湪2019骞寸殑浜戞爾澶т細涓婏紝闃块噷宸村反棣栧腑鎶鏈畼寮犲缓閿嬪甯冿紝鍚厜800鍑78563 IPS鐨勬帹鐞嗘ц兘鍜500 IPS/W鐨勮兘鏁堟瘮锛屾垚涓哄叏鐞冩渶楂樻ц兘鐨凙I鎺ㄧ悊鑺墖锛屾瘮涓氱晫鏈浼樻ц兘楂樺嚭4鍊嶏紝...
绛旓細鐩告瘮浼犵粺GPU绠楀姏锛屾т环姣旀彁鍗100%銆傚钩澶村摜鍚厜800鑺墖鎬ц兘鐨勭獊鐮村緱鐩婁簬杞‖浠剁殑鍗忓悓鍒涙柊锛氱‖浠跺眰闈㈤噰鐢ㄨ嚜鐮旇姱鐗囨灦鏋勶紝閫氳繃鎺ㄧ悊鍔犻熺瓑鎶鏈湁鏁堣В鍐宠姱鐗囨ц兘鐡堕闂锛涜蒋浠跺眰闈㈤泦鎴愪簡杈炬懇闄㈠厛杩涚畻娉曪紝閽堝CNN鍙婅瑙夌被绠楁硶娣卞害浼樺寲璁＄畻銆佸瓨鍌ㄥ瘑搴︼紝鍙疄鐜板ぇ缃戠粶妯″瀷鍦ㄤ竴棰桸PU涓婂畬鎴愯绠椼 鍩轰簬鍚厜800鐨AI浜戞湇鍔″凡鍦...
绛旓細棣栨AI鑺墖鍚厜800 鍦2019鏉窞浜戞爾澶т細涓婏紝杈炬懇闄㈤櫌闀垮紶寤洪攱鐜板満灞曠ず浜嗗惈鍏800锛岄偅灏辨槸闃块噷绗竴娆続I鑺墖銆傚惈鍏変负涓婂彜涓夊ぇ绁炲墤涔嬩竴锛岃鍓戝惈鑰屼笉闇诧紝鍏夎屼笉鑰锛屾濡傚惈鍏800甯︽潵鐨勬棤褰㈠嵈寮哄姴鐨勭畻鍔涖傚惈鍏800鏄竴娆続I鑺墖锛屽亸閲鎺ㄧ悊銆傝繖鏄樋閲岀涓娆＄敤浜嗚嚜宸辩殑纭欢鏋舵瀯锛岄泦鎴愪簡闃块噷绠楁硶鍒拌姱鐗囬噷闈㈠幓锛屼篃鏄簰鑱...
绛旓細5. 鍚厜800鏄竴娆句笓娉ㄤ簬瑙嗚鍦烘櫙鐨勪簯绔AI鑺墖銆6. 鍚厜800鐨勬ц兘杩滆秴鐜版湁AI鑺墖锛屽叾宄板兼ц兘涓7.8涓嘔PS锛屾槸涓氱晫鏈濂界殑AI鑺墖鐨勪簲鍊嶃7. 鍚厜800鐨勮兘鏁堟瘮杈惧埌500 IPS/W锛岃繙瓒呯浜屽悕銆8. 鍚厜800鐨勭畻鍔涚浉褰撲簬10棰桮PU锛屽ぇ骞呴檷浣庝簡纭欢闇姹傘9. 闃块噷鍦2014骞村紑濮嬭冭檻杩涘叆鑺墖棰嗗煙锛屽苟鍦2017骞存垚绔...
绛旓細鏍规嵁闃块噷鏂归潰鐨勬祴璇曪紝銆鍚厜 800銆嶈繖棰椾富瑕佺敤浜庝簯绔瑙夊鐞嗗満鏅鑺墖锛屽凡缁忔垚涓哄叏鐞冩ц兘鏈寮虹殑 AI 鑺墖銆傚湪涓氱晫鏍囧噯鐨 ResNet-50 娴嬭瘯涓紝鍚厜 800 鎺ㄧ悊鎬ц兘杈惧埌 78563 IPS銆傛瘮鐩墠涓氱晫鏈濂界殑 AI 鑺墖鎬ц兘楂 4 鍊嶏紱鑳芥晥姣 500 IPS/W锛屾槸绗簩鍚嶇殑 3.3 鍊嶃傛垚鏈殑涓嬮檷鍚屾牱鏄庢樉锛屽ぇ浼氬熀浜庡惈鍏 800 ...
绛旓細鍚厜鐨勫吀鏁呮潵鑷婂垪瀛惵锋堡闂嬶紝缁忓浗浜ф渚犲姩婕婄Е鏃舵槑鏈堛嬩负浜虹啛鐭ワ紝 鈥滃惈鍏夆濇槸涓婂彜涓夊ぇ绁炲墤涔嬩竴锛屽惈鑰屼笉闇诧紝鍏夎屼笉鑰锛屽瘬鎰鍚厜鑺墖鏃犲舰鍗村己澶х殑璁＄畻鑳藉姏銆傗滃惈鍏夆濇槸涓娆句簯绔AI鑺墖锛屼富鎵鎺ㄧ悊锛岄噸鐐瑰簲鐢ㄤ簬瑙嗚鍦烘櫙銆傝闃块噷鑷爺鐨凙I鑺墖锛屾槸褰撲箣鏃犳劎鐨勪郊浣艰呫 鍚厜800鐨勯棶涓栧垱閫犱簡涓ら」涓栫晫绾綍銆...
绛旓細闃块噷宸村反闆嗗洟棣栧腑鎶鏈畼鍏奸樋閲屼簯鏅鸿兘鎬昏寮犲缓閿嬪彂甯冧簡闃块噷鐨棣栨AI鑺墖鍚厜800锛岃鑺墖鏄竴娆句簯绔疉I鑺墖锛屽睘浜AI鎺ㄧ悊鑺墖銆傚惈鍏800涓昏搴旂敤浜庤瑙夊満鏅紝宸茬粡鍦ㄩ樋閲屽反宸撮泦鍥㈠唴澶氫釜鍦烘櫙澶ц妯″簲鐢紝鍏朵粬浼佷笟鍙互閫氳繃闃块噷浜戣幏寰楀惈鍏塏PU鐨勭畻鍔涖傚紶寤洪攱琛ㄧず锛屽钩澶村摜鐢ㄥぇ姒備竴骞村崐鐨勬椂闂村疄鐜颁簡鍚厜800浠庤璁″埌鍟嗙敤銆傚彟澶栵紝...
绛旓細浠庤法鐣岃嚜鐮旇姱鐗囩殑鐜╁缇ゆ潵鐪嬶紝鐩墠涓昏鏈変笁绫汇傜涓绫绘槸鑵捐銆闃块噷銆佺櫨搴﹁繖绫讳簰鑱旂綉浼佷笟銆 鍍忛樋閲岀殑绗竴棰楄嚜鐮AI鎺ㄧ悊鑺墖鈥鍚厜800鈥濅篃鏃╁湪2019骞村氨鍏紑鍙戝竷锛岃岀櫨搴︾殑绗竴浠ｆ槅浠戣姱鐗囧湪鍘诲勾鍒濆凡缁忛噺浜с傜浜岀被鏄皬绫炽佸崕绫炽佹牸鍔涖佸皬楣 姹借溅 杩欑被娉涚數瀛愬寲銆佹暟瀛楀寲娑堣垂鍝佷紒涓氥 灏忕背浠婂勾鍙戝竷浜棣栨鑷爺鐨...
绛旓細搴旂敤鍦闃块噷宸村反鍐呴儴鏍稿績涓氬姟涓2019骞9鏈25鏃ワ紝鍦ㄦ澀宸炰簯鏍栧ぇ浼氫笂锛岃揪鎽╅櫌闄㈤暱寮犲缓閿嬬幇鍦哄睍绀轰簡杩娆続I鑺墖锛鍚厜800锛屽紶寤洪攱绉帮紝杩欐槸闃块噷宸村反缁勫缓骞冲ご鍝ュ崐瀵间綋浠ユ潵绗竴娆炬寮忔祦鐗囩殑鑺墖锛屽悓鏃跺凡缁忔寮忓簲鐢ㄥ湪闃块噷宸村反鍐呴儴鏍稿績涓氬姟涓
