阿里首款AI推理芯片“含光800”问世，这款芯片达到了什么水平？ 阿里首款AI推理芯片“含光800”问世，阿里的“造芯”过程是...
\u963f\u91cc\u9996\u6b3eAI\u63a8\u7406\u82af\u7247\u542b\u5149800\u95ee\u4e16\uff0c\u201c\u4e2d\u56fd\u82af\u201d\u7684\u7a81\u7834\u6709\u4ec0\u4e48\u91cd\u5927\u610f\u4e49\uff1f\u6574\u657420\u5e74\u7684\u52aa\u529b\u3002\u963f\u91cc\u51ed\u501f\u5f3a\u5927\u7684\u7814\u53d1\u80fd\u529b\u548c\u9ad8\u6295\u5165\uff0c\u4e0d\u77e5\u4e0d\u89c9\u5730\u6210\u4e3a\u4e86\u4e00\u4e2a\u771f\u6b63\u7684\u79d1\u6280\u5de8\u5934\u30029\u670826\u65e5\uff0c\u65b0\u4e9a\u65b0\u95fb\u7f51\u5728\u4eca\u5929\u7684\u4e91\u8d77\u4f1a\u8bae\u4e0a\u9996\u6b21\u5ba3\u5e03\u4e86\u4eba\u5de5\u667a\u80fd\u7535\u8bdd\u7684\u89c4\u6a21\uff1a\u6bcf\u5929\u8d85\u8fc71\u4e07\u4ebf\u4e2a\u7535\u8bdd\uff0c\u4e3a\u5168\u4e16\u754c10\u4ebf\u4eba\u670d\u52a1\uff0c\u5904\u740610\u4ebf\u5f20\u56fe\u50cf\uff0c120\u4e07\u4e2a\u89c6\u9891\u5c0f\u65f6\uff0c550\uff0c\u6bcf\u5929\u67095000\u4e2a\u8bed\u97f3\u5c0f\u65f6\u548c5000\u4ebf\u4e2a\u81ea\u7136\u8bed\u8a00\u53e5\u5b50\uff0c\u5df2\u7ecf\u6210\u4e3a\u4e2d\u56fd\u6700\u5927\u7684\u4eba\u5de5\u667a\u80fd\u516c\u53f8\u3002
\u90a3\u4e9b\u9000\u4f11\u7684\u4eba\u6ca1\u6709\u51fa\u5e2d\u4f1a\u8bae\u3002\u5c0f\u8000\u5b50\u5f53\u573a\u8868\u793a\uff0c3\u5e74\u524d\uff0c\u9a6c\u4e91\u5728\u4e91\u8d77\u4f1a\u8bae\u4e0a\u9996\u6b21\u63d0\u51fa\u201c\u4e94\u4e2a\u65b0\u201d\uff0c\u5305\u62ec\u65b0\u96f6\u552e\u3001\u65b0\u5236\u9020\u3001\u65b0\u91d1\u878d\u3001\u65b0\u6280\u672f\u3001\u65b0\u80fd\u6e90\u3002\u4eca\u5929\uff0c\u201c\u4e94\u65b0\u201d\u5df2\u6210\u4e3a\u201c\u5341\u65b0\u201d\u3001\u201c\u5343\u65b0\u201d\u3002\u5176\u80cc\u540e\u7684\u5171\u540c\u70b9\u662f\uff0c\u5404\u884c\u5404\u4e1a\u6b63\u5728\u5168\u9762\u8d70\u5411\u6570\u5b57\u5316\u3001\u667a\u80fd\u5316\u3002
\u4f1a\u4e0a\uff0c\u963f\u91ccCTO\u548c\u963f\u91cc\u4e91\u60c5\u62a5\uff08\u82f1\u56fd\uff09\u603b\u88c1\u5c55\u793a\u4e86\u963f\u91cc\u7684\u7b2c\u4e00\u5757\u82af\u7247\u6c49\u5149800\u3002\u540c\u65f6\uff0c\u4eba\u5de5\u667a\u80fd\u7684\u5b8c\u6574\u5e03\u5c40\u4e5f\u9996\u6b21\u516c\u5f00\u3002\u4e94\u65b0\u3001\u57ce\u8111\u3001\u5927\u83ab\u9662\u3001\u5e73\u5934\u54e5\u7b49\u3002\u5341\u5e74\u4e91\u96c6\u5927\u4f1a\u5df2\u6210\u4e3a\u6570\u5b57\u7ecf\u6d4e\u7684\u98ce\u5411\u6807\u3002
\u4e00\u5e74\u540e\uff0c\u5b83\u4ea4\u4ed8\u4e86\u5176\u6210\u679c\u3002\u5728\u6628\u5929\u7684\u4e91\u96c6\u5927\u4f1a\u4e0a\uff0c\u5f20\u5251\u950b\u53d1\u5e03\u4e86\u4e00\u6b3e\u4eba\u5de5\u667a\u80fd\u82af\u7247\u6c49\u5149800\u3002\u8fd9\u662f\u963f\u91cc\u5df4\u5df4\u9996\u6b21\u4f7f\u7528\u81ea\u5df1\u7684\u786c\u4ef6\u67b6\u6784\u5c06\u963f\u91cc\u5df4\u5df4\u7b97\u6cd5\u96c6\u6210\u5230\u82af\u7247\u4e2d\u3002\u8fd9\u4e5f\u662f\u4e92\u8054\u7f51\u516c\u53f8\u5f00\u53d1\u7684\u7b2c\u4e00\u6b3e\u5927\u578b\u82af\u7247\u3002\u6c49\u5149\u662f\u53e4\u4ee3\u4e09\u795e\u5251\u4e4b\u4e00\u3002\u5251\u5305\u542b\u4f46\u4e0d\u663e\u9732\uff0c\u4f46\u4e0d\u53d1\u5149\u3002\u5728\u676d\u5dde\u57ce\u5e02\u5927\u8111\u7684\u5546\u4e1a\u6d4b\u8bd5\u4e2d\uff0c\u5149800\u7684\u8ba1\u7b97\u80fd\u529b\u76f8\u5f53\u4e8e10gpus\u3002\u8fd9\u4e5f\u662f\u963f\u91cc\u5e73\u5934\u9601\u6210\u7acb\u4ee5\u6765\u7684\u7b2c\u4e00\u6b3e\u786c\u4ef6\u4ea7\u54c1\u3002\u8fd9\u662f\u963f\u91cc20\u5e74\u53d1\u5c55\u53f2\u4e0a\u7b2c\u4e00\u6b3e\u81ea\u4e3b\u7814\u53d1\u751f\u4ea7\u7684\u82af\u7247\u3002
\u57282019\u5e74\u4e91\u6816\u5927\u4f1a\u4e3b\u8bba\u575b\uff0c\u963f\u91cc\u5df4\u5df4CTO\u3001\u8fbe\u6469\u9662\u9662\u957f\u5f20\u5efa\u950b\u4ece\u53e3\u888b\u91cc\u638f\u51fa\u4e00\u6b3e\u770b\u5f97\u89c1\u3001\u6478\u5f97\u7740\u7684\u82af\u7247\uff1a\u542b\u5149800\u3002\u8fd9\u662f\u4e00\u6b3eAI\u82af\u7247\uff0c\u91cd\u70b9\u5e94\u7528\u4e8e\u673a\u5668\u89c6\u89c9\u4e2d\uff0c\u5982\u56fe\u7247\u8bc6\u522b\u3001\u89c6\u9891\u8bc6\u522b\u7b49\u3002\u4f5c\u4e3a\u5e73\u5934\u54e5\u534a\u5bfc\u4f53\u516c\u53f8\u9996\u9897\u81ea\u4e3b\u7814\u53d1\u7684\u82af\u7247\uff0c\u542b\u5149800\u6210\u4e3a\u4e91\u6816\u5927\u4f1a\u4e3b\u8bba\u575b\u7684\u70ed\u95e8\u8bdd\u9898\u3002
\u4e00\u5e74\u524d\u7684\u4e91\u6816\u5927\u4f1a\u4e0a\uff0c\u5e73\u5934\u54e5\u534a\u5bfc\u4f53\u516c\u53f8\u5ba3\u544a\u6210\u7acb\uff0c\u8fd9\u662f\u963f\u91cc\u9996\u6b21\u5bf9\u5916\u5ba3\u544a\u8981\u81ea\u4e3b\u9020\u82af\uff0c\u4f46\u4e8b\u5b9e\u4e0a\uff0c\u963f\u91cc\u5f88\u65e9\u5c31\u5df2\u60f3\u8981\u62e5\u6709\u81ea\u5df1\u7684\u82af\u7247\uff0c\u5e76\u4e3a\u6b64\u7b79\u8c0b\u8bb8\u4e45\u3002\u963f\u91cc\u5f53\u65f6\u5ba3\u5e03\u6b63\u5728\u6253\u9020\u5185\u90e8\u4ee3\u53f7\u4e3a\u201cAli-NPU\u201d\u7684\u82af\u7247\uff0c\u4e3b\u8981\u9488\u5bf9\u56fe\u50cf\u548c\u89c6\u9891\u7684AI\u4efb\u52a1\u52a0\u901f\u573a\u666f\uff0c\u6309\u7167\u8bbe\u8ba1\uff0cAli-NPU\u7684\u6027\u80fd\u5c06\u662f\u540c\u7c7b\u4ea7\u54c1\u768440\u500d\u3002\u5bf9\u4e8e\u201c40\u500d\u201d\u8fd9\u4e2a\u6570\u5b57\uff0c\u5f53\u65f6\u5f88\u591a\u4eba\u662f\u4e0d\u4fe1\u7684\u3002\u4ece\u5b9a\u4f4d\u6765\u770b\uff0c\u542b\u5149800\u5e94\u8be5\u5c31\u662f\u4e00\u5e74\u524d\u6240\u8bf4\u7684Ali-NPU\uff0c\u6211\u6ce8\u610f\u5230\u5728\u53d1\u5e03\u4f1a\u73b0\u573a\uff0c\u5f20\u5efa\u950b\u6570\u6b21\u5f3a\u8c03\u8fd9\u6b3e\u82af\u7247
\u5f88\u201c\u5927\u201d\u2014\u2014\u79fb\u52a8\u7aef\u82af\u7247\u56e0\u4e3a\u5e94\u7528\u573a\u666f\u8981\u6c42\u5f80\u5f80\u90fd\u5f3a\u8c03\u4f53\u79ef\u7684\u5c0f\uff0c\u8fd9\u610f\u5473\u7740\u542b\u5149800\u7684\u5e94\u7528\u573a\u666f\u4e0d\u662f\u7ec8\u7aef\uff0c\u800c\u662f\u4e91\u7aef\u670d\u52a1\u5668\u3002\u201c\u5927\u201d\u4e0d\u662f\u6307\u4f53\u79ef\u5927\uff0c\u800c\u662f\u8ba1\u7b97\u80fd\u529b\u5f3a\u5927\uff0c\u5176\u6bcf\u79d2\u80fd\u5904\u740678000\u5f20\u56fe\u7247\u3002\u4ec5\u4ec5\u662f\u4ece\u6676\u4f53\u7ba1\u6570\u91cf\u6765\u770b\uff0c\u542b\u5149800\u62e5\u6709170\u4ebf\u4e2a\u6676\u4f53\u7ba1\u5c31\u8fdc\u8d85\u540c\u884c\u3002\u6700\u80fd\u4f53\u73b0\u51fa\u5176\u7b97\u529b\u5f3a\u5927\u7684\u5219\u662f\u4e00\u7ec4\u5bf9\u6bd4\u6570\u636e\u3002
\u5728\u4e1a\u754c\u6807\u51c6\u7684ResNet-50\u6d4b\u8bd5\u4e2d\uff0c\u542b\u5149800\u63a8\u7406\u6027\u80fd\u8fbe\u523078563 IPS\uff0c\u6bd4\u76ee\u524d\u4e1a\u754c\u6700\u597d\u7684AI\u82af\u7247Habana Goya \u9ad84\u500d\uff1b\u80fd\u6548\u6bd4500 IPS/W\u662f\u51763.3\u500d\u3002\u8ddf\u4e00\u5e74\u524d\u5e02\u9762\u4e0a\u7684\u82f1\u4f1f\u8fbeP4\u6bd4\uff0c\u6027\u80fd\u670946\u500d\u7684\u4f18\u52bf\uff0c\u201cAli-NPU \u6027\u80fd40\u500d\u4e8e\u540c\u7c7b\u4ea7\u54c1\u201d\u4e0d\u662f\u5439\u725b\u3002
阿里第一颗芯片诞生！刚刚，云栖大会现场，阿里巴巴集团CTO、达摩院院长张建锋向全场展示了含光800——阿里第一款AI芯片。为了这款芯片，阿里一年前放下狠话，但谁也没想到一年后即亮相：不仅完成流片，还已在阿里云上正式上线。这也是阿里平头哥成立以来首款硬件产品，是阿里20年发展史上首款自主研发、流片量产的芯片。
在芯片行业时代变革转关之际，阿里好风凭借力、快速取得突破，掌握下一阶段擂台主动权，意义和价值，或许将远超芯片本身。不过发布现场，张建锋更想强调的是敬畏之心。说：“在全球芯片领域，阿里巴巴是一个新人，玄铁和含光800是平头哥的万里长征第一步，我们还有很长的路要走。
以数据横向对比，含光800展现性能，是英伟达最新T4 15倍，是应用最广的英伟达P4的46倍——超过去年设计之初吹下的“牛”。目前，含光800已经率先在阿里内部多个业务场景开启大规模应用。从视频图像识别、分类、搜索，到城市大脑等，未来还可应用于医疗影像、自动驾驶等领域。大会现场，张建锋展示了这款芯片的强大性能。
每天新增10亿商品图片的拍立淘商品库，使用含光800识别效率可提升12倍，时间从传统通用GPU的1小时缩减至5分钟。此前，阿里平头哥连战连捷，过去两个月已经发布了无剑SoC平台和玄铁处理器IP，“让天下没有难造的芯片”，帮助企业降低芯片设计门槛。现在，作为首款硬件，也是最硬核产品，含光800依然承载平头哥之志，希望通过阿里云AI云服务，让企业随时随地可以享受高性能计算。
阿里推出来的这款芯片含光800。它的芯片水平达到了比现在芯片性能高四倍水平。
芯片的水平还是很高的，处理东西的速度很快。
含光800推理性能达到78563 IPS，比目前业界最好的AI芯片性能高4倍；能效比500 IPS/W，是第二名的3.3倍。
AI推理芯片“含光800”已经达到了世界先进水平，毕竟有那么大的数据做支撑。
绛旓細闃块噷宸村反鏃椾笅鐨勫钩澶村摜鍗婂浣撳叕鍙搁渿鎾煎彂甯冨叏鐞冩ц兘涔嬪啝鐨鍚厜800 AI鎺ㄧ悊鑺墖锛岃繖娆捐姱鐗鍦ㄤ簯鏍栧ぇ浼氫笂鎯婅壋浜浉銆備綔涓闃块噷宸村反棣栨姝ｅ紡鎶曞叆鐢熶骇鐨勮姱鐗囷紝鍚厜800涓撲负浜戠瑙嗚澶勭悊浠诲姟鎵撻狅紝鍏舵ц兘鍜岃兘鏁堟瘮鍏ㄧ悆棰嗗厛锛屾嵁瀹樻柟鏁版嵁锛屽湪Resnet 50娴嬭瘯骞冲彴涓婄殑琛ㄧ幇鏋佷负鍑鸿壊锛氭ц兘杈惧埌78563 IPS锛屾槸绗簩鍚嶇殑5鍊嶏紱鑳芥晥姣旀洿...
绛旓細闃块噷宸村反鐨勫钩澶村摜鍗婂浣撳叕鍙搁渿鎾煎彂甯冨叏鐞冩ц兘涔嬪啝鐨鍚厜800 AI鎺ㄧ悊鑺墖锛屾寮忓鍛婁簡闃块噷鍦ㄨ姱鐗囬鍩熺殑閲嶅ぇ绐佺牬銆傝繖娆捐姱鐗鍦2019浜戞爾澶т細涓婃儕鑹充寒鐩革紝浣滀负闃块噷宸村反棣栨娴佺墖鎴愬姛鐨勪骇鍝侊紝鍚厜800涓撲负浜戠瑙嗚澶勭悊璁捐锛屽叾鎬ц兘鍜岃兘鏁堟瘮鍧囪秴瓒婄幇鏈AI鑺墖锛屽叏鐞冩帓鍚嶇涓銆傚湪Resnet 50娴嬭瘯骞冲彴涓婄殑琛ㄧ幇鏇存槸浜溂锛屾ц兘楂...
绛旓細鍦2019骞翠簯鏍栧ぇ浼氫富璁哄潧锛闃块噷宸村反CTO銆佽揪鎽╅櫌闄㈤暱寮犲缓閿嬩粠鍙ｈ閲屾帍鍑轰竴娆剧湅寰楄銆佹懜寰楃潃鐨勮姱鐗囷細鍚厜800銆傝繖鏄竴娆AI鑺墖锛岄噸鐐瑰簲鐢ㄤ簬鏈哄櫒瑙嗚涓紝濡傚浘鐗囪瘑鍒佽棰戣瘑鍒瓑銆備綔涓哄钩澶村摜鍗婂浣撳叕鍙搁棰楄嚜涓荤爺鍙戠殑鑺墖锛屽惈鍏800鎴愪负浜戞爾澶т細涓昏鍧涚殑鐑棬璇濋銆備竴骞村墠鐨勪簯鏍栧ぇ浼氫笂锛屽钩澶村摜鍗婂浣撳叕鍙稿鍛婃垚绔嬶紝杩欐槸闃...
绛旓細浼氫笂锛岄樋閲孋TO鍜岄樋閲屼簯鎯呮姤锛堣嫳鍥斤級鎬昏灞曠ず浜嗛樋閲岀殑绗竴鍧鑺墖姹夊厜800銆傚悓鏃讹紝浜哄伐鏅鸿兘鐨勫畬鏁村竷灞涔熼娆″叕寮銆備簲鏂般佸煄鑴戙佸ぇ鑾櫌銆佸钩澶村摜绛夈傚崄骞翠簯闆嗗ぇ浼氬凡鎴愪负鏁板瓧缁忔祹鐨勯鍚戞爣銆備竴骞村悗锛屽畠浜や粯浜嗗叾鎴愭灉銆傚湪鏄ㄥぉ鐨勪簯闆嗗ぇ浼氫笂锛屽紶鍓戦攱鍙戝竷浜嗕竴娆句汉宸ユ櫤鑳借姱鐗囨眽鍏800銆傝繖鏄闃块噷宸村反棣栨浣跨敤鑷繁鐨勭‖浠舵灦鏋勫皢...
绛旓細1銆鍚厜800鏄闃块噷宸村反鐮斿彂鐨勯珮鎬ц兘鐨AI鎺ㄧ悊鑺墖锛屼簬2019骞9鏈25鏃ュ湪鏉窞浜戞爾澶т細涓婂彂甯冦傚惈鍏800纭欢灞傞潰閲囩敤鑷爺鑺墖鏋舵瀯锛岃蒋浠跺眰闈㈤泦鎴愯揪鎽╅櫌绠楁硶锛岄拡瀵笴NN鍙婅瑙夌被绠楁硶娣卞害浼樺寲璁＄畻銆佸瓨鍌ㄥ瘑搴︼紝鍙疄鐜板ぇ缃戠粶妯″瀷鍦ㄤ竴棰桸PU涓婂畬鎴愯绠椼2銆3銆佸紶寤洪攱琛ㄧず锛屽惈鍏800宸插紑濮嬭搴旂敤鍦ㄩ樋閲屽反宸村唴閮ㄦ牳蹇冧笟鍔′腑銆傛牴鎹...
绛旓細闃块噷棣栨AI鑺墖鍚厜800闇囨捈鍙戝竷锛氬叏鐞冩渶寮烘帹鐞嗚姱鐗囩殑绉樺瘑鎵撻2019骞翠簯鏍栧ぇ浼氫笂锛岄樋閲屽反宸撮甯妧鏈畼寮犲缓閿嬫彮寮浜嗗钩澶村摜棣栨AI鑺墖鍚厜800鐨勭绉橀潰绾憋紝杩欐浜戠AI鑺墖鍦ㄥ叏鐞AI鎺ㄧ悊鑺墖棰嗗煙鐙崰槌屽ご銆傚惈鍏800浠78563 IPS鐨勬帹鐞嗘ц兘鍜500 IPS/W鐨勮兘鏁堟瘮锛岃秴瓒婁笟鐣屾爣鍑嗭紝鏄洰鍓嶆ц兘鏈寮虹殑AI鑺墖銆傚惈鍏800鐨勫崜瓒婅〃鐜...
绛旓細闃块噷绗竴棰楄姱鐗囪癁鐢燂紒鍒氬垰锛屼簯鏍栧ぇ浼氱幇鍦猴紝闃块噷宸村反闆嗗洟CTO銆佽揪鎽╅櫌闄㈤暱寮犲缓閿嬪悜鍏ㄥ満灞曠ず浜鍚厜800鈥斺旈樋閲岀涓娆AI鑺墖銆備负浜嗚繖娆捐姱鐗锛岄樋閲屼竴骞村墠鏀句笅鐙犺瘽锛屼絾璋佷篃娌℃兂鍒颁竴骞村悗鍗充寒鐩革細涓嶄粎瀹屾垚娴佺墖锛岃繕宸插湪闃块噷浜戜笂姝ｅ紡涓婄嚎銆傝繖涔熸槸闃块噷骞冲ご鍝ユ垚绔嬩互鏉棣栨纭欢浜у搧锛屾槸闃块噷20骞村彂灞曞彶涓婇娆捐嚜涓荤爺鍙戙佹祦鐗...
绛旓細鏈潵杩欓鑺墖灏嗚鍒╃敤鍦ㄤ汉宸ユ櫤鑳介鍩燂紝渚濋潬鍏跺己澶х殑杩愮畻鑳藉姏锛闃块噷鏋佹湁鍙兘浠ュ畠涓哄熀纭鎼缓涓鏁村浜哄伐鏅鸿兘鐢熸佺郴缁熴備笌姝ゅ悓鏃讹紝鍚厜800鐨勫嚭鐜帮紝涔熶负鍥藉唴AI浼佷笟鍦ㄦ湭鏉ラ夋嫨鍥藉唴鑺墖鏃舵湁浜嗘洿浼樿川鐨勯夋嫨銆傜劧鑰岋紝骞冲ご鍝モ滈噹蹇冣濊繕杩滀笉姝簬姝ゃ傚钩澶村摜鏇捐〃绀衡滆灏嗚姱鐗囪璁″彉鎴愪竴浠剁畝鍗曠殑浜嬧濓紝涓烘骞冲ご鍝ヨ繕寮鍙戜簡鏃...
绛旓細鍚厜800灞炰簬AI鑺墖銆闃块噷宸村反绗竴棰楄嚜鐮旇姱鐗囧彨浣800AI鑺墖锛屽惈鍏変负涓婂彜涓夊ぇ绁炲墤涔嬩竴锛岃鍓戝惈鑰屼笉闇诧紝鍏夎屼笉鑰锛屾濡傚惈鍏800甯︽潵鐨勬棤褰㈠嵈寮哄姴鐨勭畻鍔涖傚湪鏉窞鍩庡競澶ц剳鐨勪笟鍔℃祴璇曚腑锛1棰楀惈鍏800鐨勭畻鍔涚浉褰撲簬10棰桮PU銆2019骞9鏈25鏃ョ殑鏉窞浜戞爾澶т細涓婏紝杈炬懇闄㈤櫌闀垮紶寤洪攱鐜板満灞曠ず浜嗚繖娆惧叏鐞冩渶寮虹殑AI鑺墖銆傚惈鍏...
绛旓細AI鑺墖鈥鍚厜800鈥濈殑闂笘锛岀殑纭浜虹溂鍓嶄竴浜2019骞9鏈25鍙凤紝闃块噷宸村反鏃椾笅杈炬懇闄㈤櫌闀垮紶寤哄嘲鐜板満灞曠ず浜嗚繖娆綼I鑺墖锛屽湪涓氬唴鏍囧噯鐨勬祴璇曞綋涓紝鍚厜800鎺ㄧ悊鎬ц兘杈惧埌浜78563 Ips锛屾瘮鐩墠涓氱晫鏈濂界殑AI鑺墖鎬ц兘楂4鍊嶃傗滃惈鍏800鈥濓紝鍙彁渚涗笟鐣屾渶寮虹殑aI鎺ㄧ悊绠楀姏锛岄偅涔堢敤涓涓舰璞＄殑姣斿柣锛屽氨鏄瘡绉掗挓鍙互澶勭悊78,...
