手机排行榜2023性价比高的有哪些阿里含光800 AI处理器惊人表现在三大场景中超越GPU性能速度提
2019年,阿里巴巴集团在杭州云栖大会上披露了他们的首款AI芯片——含光800,这一事件引起了业界的广泛关注。自那以后,阿里云一直在推动这一技术的发展,并且已经将其应用到实际场景中。
今年,在一次专门讨论芯片设计和未来的论坛上,阿里云异构计算产品研发总监龙欣分享了近一年来含光800的最新进展。他表示,该芯片现在已经正式对外服务,不需要任何特殊许可就可以在阿里云实例上购买。这些实例配备有8核NPU和96核vCPU,以及384G内存和30Gbit/s网络带宽,使其非常适合数据中心中的CNN类型模型推理加速。
更值得注意的是,尽管含光800还没有进入市场,但它在实际应用中的表现令人印象深刻。在拍立淘这样的应用中,它能够帮助用户快速搜索商品并进行个性化推荐,这些都依赖于强大的AI能力。为了提升效率和性价比,阿里希望通过自研硬件到软件方案来满足内部广泛的AI需求。
含光800的一个关键特点是针对CNN及视觉类算法进行深度优化,同时支持多种模型,如ResNet-50、SSD/DSSD、Faster-RCNN等。此外,它具有高能效、低延时以及高密度计算与存储特点,可以极大减少I/O需求,并支持权重稀疏压缩和量化压缩,以及可编程模型扩展指令集。
去年张建锋发布含光800时,他宣布该芯片在业界标准ResNet-50测试中的性能达到78563 IPS,比目前最好的AI芯片性能高4倍,而且能效比达到了500 IPS/W,是第二名的3.3倍。但是在昨天龙欣分享的时候,他并没有提及峰值性能,而是强调了该芯片作为尚未公开销售但已提供服务的事实。
为了让客户能够轻松使用这个新技术,阿里云提供自动安装NPU驱动和SDK,还预装主流深度学习框架如TensorFlow和MXNet,并提供示范教程。此外,该公司还展示了三大场景中相比GPU性能提升4-11倍的情形,其中包括城市大脑视频处理、拍立淘商品库识别以及行人检测等。
虽然这次共享并不详尽,但我们可以看出,无论是在哪一个场景下,都有显著的改进空间。随着科技不断发展,我们期待看到未来如何进一步提高这些系统的表现力,让它们更加接近人们生活的一部分。这不仅关系到技术创新,更是人类智慧与创造力的体现。