2023年28纳米芯国产光刻机助推阿里含光800 AI处理器GPU竞争对手在高端场景下沦为劲敌
在2023年28纳米芯国产光刻机的助力下,阿里巴巴集团首席技术官兼阿里云智能总裁张建锋再次带来了一个令人瞩目的科技成就——含光800 AI处理器。这款当时最强大的AI推理芯片,在2019年的杭州云栖大会上高调亮相,就像一道明灯,照亮了人工智能领域的未来。
一年之后,在2023年的一场线上云栖论坛中,阿里云异构计算产品研发总监龙欣分享了含光800推出后的最新进展。他介绍说,这款NPU实例已经正式对外服务,不需要任何白名单限制,只需在阿里云实例上购买即可。它支持8核NPU和96核vCPU、384G内存,以及最高30Gbit/s的网络带宽,是针对数据中心的CNN类型模型推理加速设计,以满足城市大脑、图像视频审核和拍立淘等业务需求。
更令人振奋的是,含光800在实际应用中的表现。在过去的一年中,它已经证明自己能够在多个场景中提供4-11倍于GPU的性能提升。例如,在城市大脑应用中,它可以实时处理40颗传统GPU所无法达到的300ms延时,而只需4颗含光800;拍立淘商品库每天新增10亿商品图片识别时间从1小时缩短至5分钟。
此外,在行人检测应用中,4核含光800可以支持100路视频,比主流GPU多25路;车辆检测则是85路视频,比主流GPU多75路。此外,还有直播、短视频和商品信息流等内容识别应用,其中ResNet50 V2模型以20000 FPS帧率进行处理,而Inception V4模型则达到5000 FPS。此外,对比主流推理GPU,其直播视频增强性能为500 FPS,对比50 FPS性能加速比为10倍。
虽然这次会议并没有提供更多关于语音交互或自然语言理解方面具体应用优势的情况,但我们可以预见,与其它行业相比,此类技术将会继续占据重要地位。对于那些追求创新与效率的人们来说,这些突破性的进展无疑是一个巨大的福音。而随着新一代AI芯片的研发,我们期待看到更为卓越与创新的解决方案出现。