阿里含光800 AI处理器高调亮相芯片价格表上的它如同猛虎下山三大场景中性能超凡GPU的老前辈竟被其
阿里巴巴集团首席技术官兼阿里云智能总裁张建锋在2019年杭州云栖大会上隆重发布了自家的AI芯片含光800,引发科技界巨大关注。近日,在今年的线上云栖大会上,阿里云异构计算产品研发总监龙欣详细介绍了这款AI推理芯片的一年来最新进展。
龙欣表示,含光800 NPU实例已经正式对外服务,无需白名单即可在阿里云实例上购买。该实例支持8核NPU和96核vCPU、384G内存以及最高30Gbit/s网络带宽,主要面向数据中心的CNN类型模型推理加速,应用场景包括城市大脑、图像视频审核和拍立淘等。
值得注意的是,尽管含光800尚未对外发售,其性能表现通过阿里云输出。在具体应用中,该芯片实现了4-11倍的GPU性能提升。例如,在城市大脑中的实时处理视频延时从300ms降至150ms;在拍立淘商品库图片识别时间从1小时缩短至5分钟。
据龙欣提供的最新数据,在行人检测中4核含光800支持100路视频,比主流GPU 25路性能提升4倍;车辆检测中同样配置可以支撑85路视频,比主流GPU支持10路性能提升8.5倍。在ResNet50 V2模型中的帧率可达20000 FPS,比主流推理GPU高11倍;Inception V4模型处理帧率达到5000 FPS,比主流推理GPU高10.8倍。此外,对于直播和点播HDR等内容质量增强领域,该芯片也展示出显著的优势。
尽管这一年的更新没有给出新的峰值性能数据,但强调其可用性与软件协同效能。随着未来对于新型激活函数和算法需求不断增长,这一款针对CNN算法设计并保持一定灵活性的AI芯片,将为多个行业带来更多创新机会。而其落地成果则凸显了硬件与软件相互配合下所能达到的效果潜力。