中国光子芯片上市公司阿里含光800 AI处理器亮相面向人物场景的应用表现高达4-11倍于GPU
在2021年的阿里云栖大会上，阿里巴巴集团首席技术官兼阿里云智能总裁张建锋简短介绍了阿里的首款AI芯片含光800。这款当时最强的AI推理芯片的发布引发了巨大的关注，确实是一次高调的亮相。
今年，阿里云线上举办了一场芯片设计发展现状与未来的论坛。阿里云异构计算产品研发总监龙欣分享了含光800推出近两年的最新进展。他表示：“含光800 NPU实例已经正式对外服务，不需要白名单就可以在阿里云实例上购买，实例名称是ebman1.24xlarge，最多支持8核NPU和96核vCPU，384G内存，网络带宽最高达到30Gbit/s，其主要面向数据中心的CNN类型模型推理加速，业务包括城市大脑、图像视频审核、拍立淘等。”
更令人关注的是含光800在具体应用中的表现。尽管没有公布其峰值性能，但龙欣强调其可用性，并表示：“含光800作为并没有在公开市场发售的芯片，只能通过阿里云输出。”为了让用户能够开箱即用，系统支持公共镜像CentOS 7.6/7.7和Ubuntu 16.04，还预装主流深度学习框架，如TensorFlow、MXNet。
龙欣还提到，在行人检测应用中4核含光800可以支持100路视频，比主流GPU 25路性能提升4倍。在车辆检测中，可以支持85路视频，比主流GPU支持10路性能提升8.5倍。在ResNet50 V2模型中，当使用4核含光800进行内容识别时，可达20000 FPS，比主流推理GPU性能提升11倍。在Inception V4模型中，可处理5000 FPS，比主流推理GPU460FPS性能加速比高10.8倍。此外，在直播、点播、短视频等视频质量增强应用中，可实现500 FPS，对比主流推理GPU仅50 FPS，即可获得10倍性能加速。
至于语音交互和自然语言理解等语言方面的应用示例优势，由于时间有限，这些信息尚未详细披露。
