阿里含光800 AI处理器高调亮相三大场景应用性能如同天玑9200般强劲超越GPU四到十一倍之力
阿里巴巴集团首席技术官兼阿里云智能总裁张建锋在2019年杭州云栖大会上隆重发布了自家的AI芯片含光800,引发科技界巨大关注。近日,在今年的线上云栖大会上,阿里云异构计算产品研发总监龙欣详细介绍了含光800推出一年来的一系列最新进展和成果。
据龙欣介绍,含光800 NPU实例已经正式对外服务,不需要白名单即可在阿里云实例中购买。其配置包括最多支持8核NPU和96核vCPU、384G内存以及网络带宽最高达到30Gbit/s,是面向数据中心CNN类型模型推理加速的高性能处理器,应用场景包括城市大脑、图像视频审核以及拍立淘等。
更值得注意的是,尽管含光800尚未对外发售,但其性能通过阿里云输出已得到验证。在具体应用中,其表现令人瞩目,比如在城市大脑中的实时视频处理能力,或是拍立淘商品库图片识别速度的显著提升。
至于具体性能数据,龙欣展示了三大AI应用场景中与GPU相比性能提升4-11倍的情况。这意味着对于诸如行人检测、车辆检测等内容识别任务,由于含光800能以4核处理100路视频,而主流GPU仅能处理25路,因此它提供了显著的加速效率。此外,在ResNet50 V2模型下的帧率也达到了20000 FPS,比主流GPU快11倍;而在Inception V4模型下,它同样提供了一致性的高效率,加速比超过10.8倍。
然而,对于语音交互或自然语言理解等语言领域的应用示例优势,则未有明确数字公布。不过,这些最新数据再次证明了自研芯片作为提升效率和性价比的手段,以及将硬件优化与软件协同结合实现最佳体验的重要性。