中国芯片巨擘阿里含光800 AI处理器闪耀登场三大应用领域展示超越GPU的卓越性能提升速度高达4-1
在2023年的一次线上云栖大会上,阿里巴巴集团的首席技术官兼阿里云智能总裁张建锋再次展现了公司的创新能力和技术实力。他介绍了自研AI芯片含光800近两年的发展成果,以及它在实际应用中的卓越表现。自那时起,含光800已经成为推理加速领域的新标准,它不仅在性能上超过了当时最先进的GPU产品,而且在能效比方面也显示出了显著优势。
尽管如此,人们对于含光800未来可能达到的峰值性能仍然充满好奇。为了让这款芯片能够更快地融入到用户手中,阿里云提供了一系列便捷服务,让购买实例的用户可以自动安装NPU驱动和SDK,同时支持公共镜像和预装主流深度学习框架。
龙欣,阿里云异构计算产品研发总监,在昨天的分享中强调了含光800作为一个专为数据中心设计的人工智能处理器,其主要目标是通过硬件优化来提升特定算法模型的推理速度。在城市大脑、图像视频审核以及拍立淘等应用场景中,含光800展示出惊人的4-11倍性能提升,比传统GPU更高效,更快速。
例如,在行人检测应用中,只需四核即可支撑100路视频,而同样配置下的主流GPU只能处理25路视频;而在车辆检测方面,与之相比性能提升8.5倍。在直播、短视频和商品信息流等内容识别任务中,由于其高帧率,可以实现对ResNet50 V2模型进行20000 FPS帧率测试,这一成绩远超主流推理GPU1800 FPS。此外,在点播HDR任务下,即使与英伟达A100级别强大的训练GPU相比,也能实现6.6倍性能加速。
虽然此次云栖大会上的涉及含光800的话题并不多,但龙欣所描述的情景依旧充分证明了该芯片设计团队对于提高AI算法执行效率所做出的努力。尽管当前国际形势复杂,对于科技企业尤其是中国芯片公司来说存在挑战,但他们继续致力于研发,以确保这些先进技术能够迅速落地并为广泛应用带来价值。这只是开始阶段,每一步都有着无限可能。