国产替代半导体芯片龙头股阿里含光800 AI处理器犹如猛虎出山GPU之上跃迁四至十一倍的技术霸主
在2019年的云栖大会上,阿里巴巴集团首席技术官兼阿里云智能总裁张建锋隆重发布了公司的首款AI芯片——含光800,这款当时最强大的AI推理芯片的问世,让整个行业震动。
一年后的今天,在一次线上论坛中,阿里云异构计算产品研发总监龙欣详细介绍了含光800推出后的最新进展。他表示,含光800 NPU实例已经正式对外服务,不需要任何限制就可以在阿里云实例上购买,并且支持8核NPU和96核vCPU、384G内存以及最高30Gbit/s网络带宽。这款芯片主要面向数据中心的CNN类型模型推理加速,适用于城市大脑、图像视频审核以及拍立淘等业务。
更值得关注的是,含光800在实际应用中的表现。尽管它尚未对外发售,但通过阿里云输出其性能数据显示其卓越性。在一系列典型应用场景中,比如城市大脑、拍立淘等,它都能实现4-11倍的性能提升。例如,在行人检测应用中,它可以支持100路视频,而主流GPU仅能处理25路;在车辆检测中,它可以支持85路视频,而主流GPU仅能处理10路。此外,在ResNet50 V2模型中的帧率可达到20000 FPS,比主流GPU高11倍。
龙欣还强调,为了让客户能够快速使用含光800,他们提供了一键安装NPU驱动和SDK,同时系统预装主流深度学习框架,如TensorFlow和MXNet,并提供示范教程。目前,该芯片主要面向数据中心和大型端上的CNN类模型推理加速,可扩展到其他DNN模型。
此次分享虽然没有披露新的峰值性能数据,但展示了自研芯片如何通过软硬协同优化算法,加快卷积运算并针对特定模型进行优化,从而提高效率和性价比。对于未来是否会有下一代AI芯片的发布,以及何时,我们不得而知。但无疑,每一步前进都是科技巨头们不断探索与创新的一部分。