阿里含光800 AI处理器如同神兵利箭般高调亮相其在三大关键场景中的落地性能宛若猛虎下山以芯片集成电
在2019年的云栖大会上,阿里巴巴集团首席技术官兼阿里云智能总裁张建锋隆重发布了公司的首款AI芯片——含光800,这款当时最强大的AI推理芯片的亮相,让科技界哗然。如今,经过一年多的发展和完善,含光800已经正式对外提供服务,无需白名单即可在阿里云实例上购买。
其最新一代NPU实例ebman1.24xlarge具备8核NPU和96核vCPU、384G内存以及30Gbit/s网络带宽,是针对数据中心中的CNN类型模型推理加速而设计,主要应用于城市大脑、图像视频审核以及拍立淘等领域。
尽管含光800尚未在市场上发售,但通过阿里云输出,它展现出了令人瞩目的性能。在电商应用、视觉应用、语音交互和自然语言理解等方面,含光800都有广泛的应用前景。例如,在拍立淘这样的场景中,它能够快速搜索商品并进行个性化推荐,以满足用户需求。
此外,含光800还具有深度优化CNN及视觉类算法,加快卷积和矩阵乘操作,并支持多种复杂计算,如反卷积、孔洞卷积等。此外,它还能实现高能效与低延时、高密度计算与存储,以及软硬协同支持权重稀疏压缩和量化压缩指令集,以及可编程模型扩展功能。
据龙欣异构计算产品研发总监介绍,在实际应用中,与GPU相比,其性能提升达到了4-11倍。在行人检测场景下,4核含光800可以处理100路视频,比主流GPU提升了4倍;在车辆检测中,也是如此,对比主流GPU性能提升达到8.5倍;而在内容识别任务ResNet50 V2模型中,其帧率可达20000 FPS,比主流推理GPU提高至11倍;甚至在直播视频增强任务中,可实现10倍性能加速比。
尽管今年的分享没有展示出新颖的情节,但它仍然凸显了包含灯800作为一个突破性的技术成就,并为未来可能更深入地探讨其潜力打下基础。随着全球贸易环境不断变化,我们或许会看到更多关于这款AI芯片及其后续版本的大型发布事件。但无论如何,一点也不能否认的是,即便是最先进的技术也需要时间来落地并获得市场认可。这对于追求创新与影响力的企业来说,无疑是一个充满挑战但又充满希望的旅程。