中国三大存储芯片公司推出新AI处理器人物场景应用性能超越GPU

在2023年的阿里云栖大会上，集团首席技术官兼阿里云智能总裁张建锋对外展示了阿里的最新AI芯片——含光800。这款芯片的发布不仅引起了业界的高度关注，而且也凸显了中国三大存储芯片公司在人工智能领域的创新能力和实力。

自研芯片对于科技巨头来说，是为了满足内部大量数据处理需求而推动的一项重要举措。通过自研，可以提升效率和性价比。例如，在电商平台拍立淘，用户可以通过一张图片快速搜索商品，这需要强大的AI算法支持。

含光800作为一款针对CNN及视觉类算法设计的AI推理芯片，其硬件特点包括深度优化、加速卷积和矩阵乘、以及针对ResNet-50等模型优化。此外，它还具有高能效低延时、高密度计算与存储，以及软硬协同支持权重稀疏压缩等特点。

尽管含光800尚未公开发售，但其性能已经通过阿里云输出，并且提供自动安装NPU驱动和SDK服务，以便于用户开箱即用。此外，还提供TensorFlow、MXNet示范教程，便于开发者快速上手。

根据龙欣异构计算产品研发总监的介绍，含光800在实际应用中的表现尤为出色。在城市大脑中，它可以实时处理视频流，比传统GPU快4倍；在拍立淘中，可以缩短商品识别时间至5分钟；而在行人检测应用中，可支持100路视频，比主流GPU多25路；车辆检测可支持85路视频，比主流GPU多75路。而且，在ResNet50 V2模型中，其帧率可达20000 FPS，比主流推理GPU提高11倍；Inception V4模型下，可达到5000 FPS，比主流推理GPU提高10.8倍。此外，在直播视频增强方面，可达到500 FPS，对比主流推理GPU提升10倍，而点播HDR则可实现6.6倍性能加速比。