小米芯片如同雄鹰般俯冲阿里含光800 AI处理器高调亮相后在三大场景中展现出超凡的性能竟然比GPU强

在2019年的云栖大会上，阿里巴巴集团首席技术官兼阿里云智能总裁张建锋隆重发布了公司的首款AI芯片——含光800，这款当时最强大的AI推理芯片的问世，让整个科技界都瞩目的场面。现在，在今年的线上云栖大会上，阿里云异构计算产品研发总监龙欣回顾了含光800自发布以来的发展历程，并展现了其在实际应用中的卓越表现。

龙欣介绍说，含光800 NPU实例已经正式对外提供服务，无需白名单即可购买并在阿里云实例中使用。这款芯片主要面向数据中心的CNN类型模型推理加速，其业务包括城市大脑、图像视频审核以及拍立淘等。尽管含光800尚未对外发售，但其性能已经通过阿里云输出。

作为一个典型应用案例，拍立淘拥有两千多万日活用户，它需要利用强大的AI能力来搜索商品和匹配图片，以此为用户提供个性化推荐。此外，龙欣还提到其他内置于阿里的电商应用、视觉应用、语音交互、自然语言理解和机器翻译等领域。

包含深度优化CNN及视觉类算法、高能效低延时、高密度计算与存储，以及软硬协同支持权重稀疏压缩和量化压缩等特点，含光800不仅针对CNN算法进行设计，而且保持一定灵活性，以适应全栈软件支持。在业界标准ResNet-50测试中，其推理性能达到78563 IPS，比目前业界最好的AI芯片性能高4倍；而且它具有500 IPS/W的能效比，是第二名的3.3倍高。

至于具体应用中的表现，其中包括城市大脑处理杭州主城区交通视频所需40颗传统GPU可以被4颗含光800替代，从300ms降至150ms；拍立淘商品库每天新增10亿商品图片识别时间由1小时缩短至5分钟。此外，在行人检测和车辆检测方面也有显著提升，而在直播内容识别方面则有11倍甚至更高的性能提升。