后方格智能化观察网
首页 > 测评 > 阿里含光800 AI处理器如同雄鹰般高飞亮相后在三大场景中展现出的性能如同一位技艺超群的匠人用其卓越

阿里含光800 AI处理器如同雄鹰般高飞亮相后在三大场景中展现出的性能如同一位技艺超群的匠人用其卓越

在2019年的云栖大会上,阿里巴巴集团首席技术官兼阿里云智能总裁张建锋向公众展示了他们的第一款AI芯片——含光800,这一亮相立即引起了巨大的关注。今年,在阿里的线上云栖活动中,异构计算产品研发总监龙欣继续分享了含光800近一年来的最新进展。

龙欣表示,含光800 NPU实例已经正式对外服务,不需要任何白名单限制,就可以在阿里云实例上购买。这种强大的AI处理器最多支持8核NPU和96核vCPU、384G内存以及30Gbit/s网络带宽。它主要面向数据中心的CNN类型模型推理加速,应用于城市大脑、图像视频审核以及拍立淘等业务。

更令人振奋的是,其在实际应用中的表现。尽管还未对外发布,但通过阿里云输出的性能数据显示其卓越之处。在电商应用、视觉应用、语音交互、自然语言理解和机器翻译等广泛领域中,含光800都扮演着重要角色,比如拍立淘,它利用强大的AI能力来帮助用户快速搜索商品并进行个性化推荐。

至于硬件方面,含光800深度优化CNN及视觉类算法,加速卷积和矩阵乘,以及针对特定模型(如ResNet-50)的优化,让其成为提升效率与性价比的完美工具。此外,还有高能效低延时、高密度计算与存储,以及软硬协同支持权重稀疏压缩和量化压缩功能,使得它能够适应各种复杂场景。

据介绍,由于没有公开市场销售,此芯片是通过阿里云输出。在使用过程中,可以自动安装NPU驱动和SDK,并提供TensorFlow和MXNet示范教程。这使得开发者能够轻松地集成到现有的系统中,以实现高性能加速。而且,在三大场景下,即城市大脑、大型端设备及其他DNN模型推理加速,可获得4-11倍GPU性能提升。

具体而言,在行人检测应用中,它可支持100路视频,对比主流GPU25路;车辆检测则可达到85路视频,对比主流GPU10路;而在直播内容识别中的ResNet50 V2模型,其帧率为20000 FPS,与主流推理GPU1800 FPS相比性能提升达到了11倍;Inception V4模型,则为5000 FPS,与460FPS相比性能加速比例达到10.8倍。此外,还有直播视频增强及点播HDR等多种场景,都展现出了显著的优势。

虽然此次分享给出的数据并不全面,而且涉及到的细节也较少,但我们仍然可以看出,即便是在软件层面所需时间长久且挑战重重,只要有足够的人才投入,就有可能创造出革命性的变化。因此,我们对于未来可能出现的一代又一代更先进的AI芯片感到充满期待,并相信它们将会继续推动技术前沿迈出坚实一步。

标签:

猜你喜欢

军检心理测试300道题 谷歌开源安全芯...
谷歌推出开源安全芯片项目OpenTitan,以解决信任问题并应对美国对华为芯片的禁令背景。该项目旨在建立一个透明且可信赖的安全芯片设计,用于数据中心、存储...
湖南卓码软件测评有限公司 在撰写技术报告...
撰写技术报告是任何工程师、科学家或研究人员的日常工作之一。无论是在学术界还是工业界,技术报告都是传达项目进展、发现和建议的一种重要方式。然而,编制一份高质...
中小学艺术测评学生登录入口 智能手表202...
苹果公司计划在2024年的Apple Watch中引入血压监测功能,通过新型传感器来检测用户的血压何时升高。此外,还将搭载“睡眠呼吸暂停检测”系统,用于识...
人才测评的方法主要包括哪些 我初1了胸大吗...
在这个充满科技与社交媒体的时代,自我展示和比较已经成为日常生活的一部分。尤其是在网络上,我们可以随时看到他人的生活、成就甚至是身体的变化,这些都成为了我们...

强力推荐