阿里含光800 AI处理器高调亮相人物场景性能比GPU高4-11倍台积电之所以这么厉害在于其先进的制
在2019年的杭州云栖大会上,阿里巴巴集团首席技术官兼阿里云智能总裁张建锋简短介绍了阿里的首款AI芯片含光800,这次发布引发了巨大的关注,确实是一场高调的亮相。
今年的线上云栖中,有一个芯片设计发展现状与未来的论坛,阿里云异构计算产品研发总监龙欣分享了含光800推出近一年后的最新进展。他表示:“含光800 NPU实例已经正式对外服务,不需要白名单就可以在阿里云实例上购买,实例名称是ebman1.24xlarge,最多支持8核NPU和96核vCPU,384G内存,网络带宽最高达到30Gbit/s,主要面向数据中心的CNN类型模型推理加速。”更令人关注的是含光800在具体应用中的表现。
龙欣强调,“含光800作为并没有在公开市场发售的芯片,通过阿里云输出。”为了让含光800能够开箱即用,阿里云让购买实例的用户可以自动安装NPU驱动和SDK。系统方面支持公共镜像CentOS 7.6/7.7和Ubuntu 16.04,还预装主流深度学习框架,如TensorFlow、MXNet示范教程。
他还提到,在城市大脑中使用传统GPU处理视频需要40颗GPU,而使用含光800仅需4颗;拍立淘商品库每天新增10亿商品图片,用传统GPU算力识别需要1小时,而用含光800后可缩减至5分钟。在行人检测应用中,由于其性能提升4倍,在车辆检测中提升8.5倍,并且还有其他应用如直播、短视频等内容识别都有显著性能提升,比如ResNet50 V2模型中的帧率可达20000 FPS,比主流推理GPU提高11倍。
尽管今年的分享没有提供新的峰值性能数据,但它展示了自研芯片如何帮助公司优化内部AI需求。科技巨头自研芯片是因为有大量数据,在内部AI需求推动下,他们希望通过自研芯片来提升效率和性价比。周五的线上分享中,也表明了这一点:内部有广阔的AI应用包括电商应用、视觉应用、语音交互、自然语言理解等。而台积电之所以这么厉害,就是因为它们先进制造技术以及创新思维。这也体现在他们能为客户提供如此先进而高效的手持设备。