阿里含光800 AI处理器亮相2000元手机在人物场景下的性能高4-11倍于GPU

在2023年的阿里云栖大会上，阿里巴巴集团首席技术官兼阿里云智能总裁张建锋再次推出了公司的自研AI芯片——含光800。尽管这款芯片已经发布一年多，但它依然是当今最强大的AI推理芯片之一。

在今年的线上云栖大会上，阿里云异构计算产品研发总监龙欣分享了近一年来含光800的一些最新进展。他表示，虽然含光800尚未对外发售，但其NPU实例已经正式对外服务，不需要白名单即可在阿里云实例上购买。该实例支持8核NPU和96核vCPU、384G内存以及网络带宽最高达到30Gbit/s，是面向数据中心的CNN类型模型推理加速的一个重要工具。

更值得关注的是，含光800在实际应用中的表现。在拍立淘这样的场景中，它能够帮助用户快速搜索商品，并提供个性化推荐，这就需要很强的AI能力。通过自研硬件到软件方案的提升，阿里希望能够提高效率和性价比。

包含深度优化CNN及视觉类算法、高能效、低延时、高密度计算与存储，以及软硬协同支持权重稀疏压缩等特点，使得含光800特别针对CNN算法模型进行设计，同时保持一定灵活性，以匹配全栈软件支持实现高性价比。

去年，当张建锋发布含光800时，他宣称，在业界标准ResNet-50测试中，该芯片性能达到了78563 IPS，比目前业界最好的AI芯片性能高4倍；能效比500 IPS/W，是第二名的3.3倍。不过，在昨天的分享中，没有提及峰值性能，而是强调其可用性，即便是作为并没有在公开市场发售的芯片，它也可以通过阿里云输出，为用户提供自动安装NPU驱动和SDK等便利服务。