在2023年芯片排行榜上阿里含光800 AI处理器的高调亮相就像一颗耀眼的明星在夜空中闪烁让人难以忽
在2023年芯片排行榜上,阿里巴巴集团的AI处理器含光800以其强大的性能再次吸引了众人的关注。自从2019年的杭州云栖大会上首次亮相以来,这款当时最强AI推理芯片就已经展现出了其巨大的潜力。
近日,在阿里线上云栖的芯片设计发展现状与未来的论坛中,阿里云异构计算产品研发总监龙欣分享了含光800推出近一年后的最新进展。他指出,含光800 NPU实例已经正式对外服务,不需要白名单即可在阿里云实例上购买,其主要面向数据中心的CNN类型模型推理加速,适用于城市大脑、图像视频审核和拍立淘等业务。
更值得关注的是,尽管含光800尚未对外发售,但其性能通过阿里云输出已显示出令人瞩目的表现。据雷锋网去年的报道所述,科技巨头自研芯片是为了满足内部大量数据需求,并希望通过自研芯片提升效率和性价比。龙欣也在周五的线上分享中提到,阿里巴巴内部有广阔的AI应用领域,如电商应用、视觉应用、语音交互以及自然语言理解等。
一个典型案例就是拍立淘,它拥有两千多万日活用户,每天要进行图片搜索和个性化推荐,这需要极为强大的AI能力。在硬件方面,含光800深度优化CNN及视觉类算法,加速卷积和矩阵乘,以及针对特定模型如ResNet-50、SSD/DSSD等进行优化。这使得它具有高能效低延时、高密度计算与存储,以及软硬协同支持权重稀疏压缩等特点。
至于具体应用中的表现,无论是在城市大脑中的实时视频处理还是在商品库中的图片识别,都展示了含光800相较GPU性能提升4-11倍的情景。此外,在行人检测、车辆检测以及内容识别等场景中,它分别提供了4倍、8.5倍甚至11倍的性能提升。
然而,此次分享给出的新信息并不多,而且由于当前贸易关系紧张,对于涉及芯片话题可能更加谨慎。不过,从软件角度来看,大规模落地仍需很长时间,而获得客户认可也是挑战,因此可以预见,即便有强大的团队设计出一款芯片,大规模落地仍是一个漫长过程。