芯片革命阿里含光800 AI处理器闪耀亮相三大场景应用性能超越GPU4-11倍

在2023年的阿里云栖大会上，张建锋再次登台，他的这次演讲不仅是对含光800芯片技术的深度解读，更是对其在实际应用中的巨大潜力的展现。自从2019年首次亮相以来，含光800已经成为了业界瞩目的焦点，其在AI推理领域的卓越性能和高效能比，让它成为数据中心和智能终端之间不可或缺的桥梁。

今年的大会上，龙欣作为阿里云异构计算产品研发总监，以更加专业和详细的视角向我们展示了含光800芯片的一系列最新进展。在他的分享中，我们得知尽管含光800尚未正式进入市场，但它已经开始服务于阿里云实例，并且用户可以通过白名单获得使用权限。这个高性能NPU实例支持8核NPU和96核vCPU、384G内存以及网络带宽达到30Gbit/s，这使得它成为处理复杂AI任务如城市大脑、图像视频审核以及拍立淘等应用时极为理想选择。

更值得一提的是，在实际应用场景中，含光800显示出了惊人的表现。比如，在行人检测应用中，它能够同时处理100路视频，而传统GPU只能处理25路；在车辆检测中，它可以支持85路视频，而主流GPU仅能支持10路。这表明，与同类GPU相比，含光800提供了4-11倍的性能提升，使得其成为优化CNN及视觉类算法、高效、低延时并且具有高度灵活性的完美解决方案。

此外，在直播、短视频以及商品信息流等内容识别应用中，ResNet50 V2模型与Inception V4模型也都实现了显著加速，比如前者达到了20000 FPS，比后者则达到了5000 FPS，这些数字让人印象深刻。在点播HDR环境下，即便面对强大的英伟达A100训练GPU，其多性能还是6.6倍之多。

尽管如此，对于语音交互和自然语言理解等语言方面具体优势数据，我们仍然没有得到明确答案。不过，从去年至今，无论是在硬件设计还是软件优化方面，都可见到阿里的不断努力与创新。这不仅说明了他们对于AI技术发展有着坚定的信心，也预示着未来更多令人期待的情报将会逐渐公开。