阿里含光800 AI处理器芯片技术革新亮相提升人物识别场景性能高达4-11倍超越GPU
在2023年的阿里云栖大会上，阿里巴巴集团首席技术官兼阿里云智能总裁张建锋再次推出了公司的AI芯片含光800。这款芯片在2019年首次亮相时，就以其强大的性能和高调的发布获得了广泛关注。
一年后的今天，阿里云异构计算产品研发总监龙欣在一场关于芯片设计发展现状与未来的论坛上，分享了含光800推出近一年的最新进展。据他介绍，这款NPU实例已经正式对外服务，不需要白名单就可以在阿里云实例上购买。它支持8核NPU和96核vCPU、384G内存以及最高30Gbit/s的网络带宽，是面向数据中心CNN类型模型推理加速的产品，其业务包括城市大脑、图像视频审核和拍立淘等。
尽管含光800并未对外发售，但通过阿里云输出，它已经展示出了其卓越的性能。在具体应用中，与GPU相比，其表现有4-11倍的提升。在城市大脑中的实时处理视频任务中，使用含光800仅需4颗，而传统GPU则需要40颗；拍立淘商品库图片识别也从1小时缩短至5分钟。
除了这些典型应用案例之外，在行人检测应用中，4核含光800支持100路视频，比主流GPU多25路；车辆检测同样支持85路视频，比主流GPU多75路。对于ResNet50 V2模型中的内容识别应用，它能够达到20000 FPS，比主流推理GPU快1800 FPS；而Inception V4模型，则达到了5000 FPS，比主流GPU快460 FPS。此外，在直播质量增强方面，它能提供500 FPS，对比50 FPS有10倍提升。
虽然今年的分享没有提及更详细的人类语言相关领域的情况，但我们知道这也是自研芯片的一个重要方向，因为它能够极大地提高效率和性价比，为电商、视觉、语音交互等众多AI需求提供强劲动力。未来，我们期待看到更多关于这一领域进展的情报，并了解下一代AI芯片何时将问世，以及它们会如何进一步提升我们的生活体验。
