阿里含光800 AI处理器如同神兵利箭般高调亮相其在三大场景中的落地性能如同雄鹰展翅高出GPU的速度
在2019年的杭州云栖大会上，阿里巴巴集团的首席技术官兼阿里云智能总裁张建锋以简短而精彩的方式向公众介绍了他们研发的一款AI芯片——含光800。这款当时最强大的AI推理芯片的发布，让人印象深刻，就像一位武林高手在江湖中高调亮相。
一年之后，在2023年的线上云栖大会上，阿里云异构计算产品研发总监龙欣继续分享了关于含光800近一年来的最新进展。据他介绍，这款NPU实例已经正式对外服务，不需要任何特殊限制，即可在阿里云实例上购买。它支持8核NPU和96核vCPU、384G内存以及最高30Gbit/s的网络带宽，是针对数据中心CNN类型模型推理加速设计，适用于城市大脑、图像视频审核等业务场景。
更值得关注的是含光800在实际应用中的卓越表现。尽管这款芯片尚未公开销售，但其性能通过阿里云输出已证明其优越性。在拍立淘这样的应用中，它能够快速搜索4亿多商品图片，并进行个性化推荐，这些都需要强大的AI能力。此外，由于含光800从硬件到软件方案全方位优化，其可以提供深度优化CNN及视觉类算法，加速卷积和矩阵乘，以及针对特定模型如ResNet-50、SSD/DSSD、Faster-RCNN等进行优化。
具体到性能提升方面，去年张建锋曾表示，在业界标准的ResNet-50测试中，含光800推理性能达到78563 IPS，比目前业界最好的AI芯片性能高4倍；能效比500 IPS/W，是第二名的3.3倍。不过，在昨天的分享中，没有提及峰值性能，而是强调其可用性和四种主要应用场景中的显著提升：行人检测（4倍）、车辆检测（8.5倍）、内容识别（11倍）以及直播视频增强（10倍）。
此次共享虽然没有提供详尽的情报，但透露出了一个事实：即便有着如此先进的人工智能技术，只要落地不易，对于企业来说也是一项巨大的挑战。而对于未来，一直关注这个领域的人们仍然充满期待，那时候，他们会见证什么样的创新呢？
