中国芯片自主能力提升阿里含光800 AI处理器亮相高效应用于人物识别场景其性能在处理复杂人脸数据时达
在2019年的杭州云栖大会上，阿里巴巴集团首席技术官兼阿里云智能总裁张建锋向公众介绍了他们的首款AI芯片——含光800，这场发布会迅速吸引了行业内外广泛关注。今年，阿里云线上举办了一场关于芯片设计发展现状与未来的论坛，其中包括了含光800推出后近一年来的最新进展。
参与分享的是阿里云异构计算产品研发总监龙欣，他表示：“含光800 NPU实例已经正式对外服务，不需要白名单就可以在阿里云实例上购买。” 这款芯片主要面向数据中心的CNN类型模型推理加速，适用于城市大脑、图像视频审核、拍立淘等业务。
更值得一提的是，含光800在实际应用中的表现。尽管它尚未对外发售，但其性能通过阿里云输出已被证明。在电商应用和视觉应用中，如拍立淘，它能够帮助用户快速搜索商品并进行个性化推荐。这要求高强度的AI能力，而自研芯片正是为了提升效率和性价比而诞生的。
包含深度优化CNN及视觉类算法、高能效、低延时以及高密度计算与存储特点的含光800，其硬件设计特别针对CNN算法模型，但同时保持一定灵活性，以配合全栈软件支持实现高性价比。此前张建锋曾宣布，在业界标准ResNet-50测试中，该芯片性能达到78563 IPS，比目前业界最好的AI芯片性能高4倍；能效比500 IPS/W，是第二名的3.3倍。
对于可用性的强调是此次分享的一个重点。龙欣指出，“作为并没有在公开市场发售的芯片，通过阿里云输出。” 为确保其开箱即用的体验，系统支持公共镜像CentOS 7.6/7.7和Ubuntu 16.04，并预装主流深度学习框架提供TensorFlow、MXNet示范教程。
据最新数据显示，在行人检测应用中，4核含光800支持100路视频，比主流GPU25路性能提升4倍。在车辆检测中同样配置下，可支持85路视频，比主流GPU10路推理性能提升8.5倍。在ResNet50 V2模型中的帧率可达20000 FPS，比主流推理GPU1800 FPS性能提升11倍；而Inception V4模型处理帧率为5000 FPS，比主流推理GPU460FPS性能加速比高10.8倍。此外，在直播视频增强方面，可达到500 FPS，对比主流推理GPU50 FPS，加速比达到了10倍；而点播HDR多核心版本则有66 FPS能力，使得其相对于英伟达A100显著提高到10 FPS，为6.6倍加速比提供保障。
尽管这次会议没有展示充分丰富的情景，也没有详细介绍语音交互或自然语言理解等语言领域具体优势，但从共享出的信息来看，一旦落地，这些新型AI处理器将带来巨大的效益。而考虑到当前紧张的贸易关系，以及涉及到的复杂技术挑战，让我们期待未来如何进一步见证这一重要科技成果在市场上的普及和影响力。
