后方格智能化观察网
首页 > 智能硬件 > 阿里含光800 AI处理器如同雄鹰般高飞芯片封测龙头股排名前十在三大场景中展现出超凡的性能竟然比GP

阿里含光800 AI处理器如同雄鹰般高飞芯片封测龙头股排名前十在三大场景中展现出超凡的性能竟然比GP

在2019年的云栖大会上,阿里巴巴集团首席技术官兼阿里云智能总裁张建锋隆重发布了公司的首款AI芯片——含光800,这款当时最强大的AI推理芯片的问世,让整个科技界为之瞩目。经过一年多的时间,阿里云异构计算产品研发总监龙欣在今年的线上云栖论坛中分享了含光800近一年来的最新进展。

龙欣表示,含光800 NPU实例已经正式对外服务,不需要白名单就可以在阿里云实例上购买。这个实例支持8核NPU和96核vCPU、384G内存以及网络带宽最高达到30Gbit/s,以CNN类型模型推理加速为主要应用场景,面向数据中心中的城市大脑、图像视频审核和拍立淘等业务。

更引人注目的,是含光800在实际应用中的表现。在没有对外发售的情况下,其性能通过阿里云输出。这是因为科技巨头自研芯片是基于大量内部数据驱动,而内部AI需求极高,因此希望通过自研芯片提升效率和性价比。例如,在拍立淘这样的应用中,由于用户日活数千万,要搜索4亿商品图片,并进行个性化推荐,这就需要强大的AI能力。

至于含光800,它具有深度优化CNN及视觉类算法,加快卷积和矩阵乘操作,以及针对ResNet-50、SSD/DSSD、Faster-RCNN等模型优化。此外,还有高能效低延时、高密度计算与存储,以及软硬协同支持权重稀疏压缩等特点,使其特别针对CNN算法设计,但也保持一定灵活性,再匹配全栈软件支持以实现高性价比。

去年张建锋发布时说,在业界标准ResNet-50测试中,含光800推理性能达到了78563 IPS,比目前业界最好的AI芯片性能高4倍;能效比500 IPS/W,是第二名的3.3倍。但是在昨天的分享中并未提及峰值性能,而是强调其可用性,即使作为未公开市场发售的芯片,也能够直接使用。

为了让用户开箱即用,系统支持公共镜像CentOS 7.6/7.7和Ubuntu 16.04,并预装主流深度学习框架,如TensorFlow、MXNet提供示范教程。而且,现在已证实在三大AI应用中的具体场景下,与GPU相比,有4-11倍性能提升。

标签:

猜你喜欢

智能手机硬件 人工智能能干一...
人工智能能干一辈子吗?我是怎么想的:AI能活到老不亚于人的吗? 在这个充满变革的时代,人工智能(AI)已经深入我们生活的每一个角落,从简单的语音助手到复杂...
智能手机硬件 亲历真实我在天...
入学前夕 当我站在繁忙而又充满活力的天津市街区,眼前的建筑物是现代化与传统文化完美融合的产物,那就是我的新家——天津中德应用技术大学。这个名字背后,隐藏着...
智能手机硬件 编织知识的篇章...
编织知识的篇章:报告书内容的无限可能 一、探索报告书之旅 在现代社会中,报告书不仅是记录和展示工作成果的重要工具,也是了解项目进展、分析问题、规划未来以及...
智能手机硬件 互联网最新资讯...
在信息爆炸的时代,互联网成为了我们生活中不可或缺的一部分。然而,这也带来了一个严峻的现实——网络安全问题日益凸显。随着技术的不断进步,新的威胁层出不穷,让...

强力推荐