阿里含光800 AI处理器如同雄鹰般高飞芯片制造国家排名之巅展示了其在三大场景中的霸主地位其性能不仅
在2019年的云栖大会上,阿里巴巴集团首席技术官兼阿里云智能总裁张建锋隆重发布了公司的首款AI芯片——含光800,这款当时最强大的AI推理芯片的问世,让整个科技界为之瞩目。经过一年多的时间,阿里云异构计算产品研发总监龙欣在今年的线上云栖大会中分享了含光800近一年来的最新进展。
龙欣表示,含光800 NPU实例已经正式对外服务,不需要白名单就可以在阿里云实例上购买。这个实例支持8核NPU和96核vCPU、384G内存以及网络带宽最高达到30Gbit/s,以CNN类型模型推理加速为主要应用场景,面向城市大脑、图像视频审核、拍立淘等业务。
更引人注目的是,在具体应用中的表现。尽管含光800尚未对外发售,但其性能通过阿里云输出已显示出亮眼成绩。在数据中心和大型端上的CNN类模型推理加速方面,其性能比GPU高4-11倍。这得益于其深度优化CNN及视觉类算法、高能效低延时设计,以及软硬协同支持权重稀疏压缩和量化压缩等特点。
例如,在行人检测应用中,4核含光800可支持100路视频,比主流GPU25路提升4倍;车辆检测中,可支持85路视频,比主流GPU10路提升8.5倍。此外,在直播、短视频等内容识别应用中,与主流推理GPU相比,加速比达到了11倍以上。
虽然此次分享没有披露新的峰值性能数据,但它展示了自研芯片如何成为提升效率与性价比的关键工具。而且,即便是在当前贸易紧张的情况下,自研芯片仍然是企业内部AI需求推动下不可或缺的一环。