最新资讯Facebook的下一代AI计算平台究竟是怎样的奇迹
Facebook的「下一代」AI计算平台,究竟是怎样的奇迹?昨天(美国时间 3 月 14 日),Facebook公布了自己的「下一代」AI模型训练硬件平台Zion,以及针对另外两类计算的定制化ASIC芯片:用于AI推理的Kings Canyon,以及用于视频转码的Mount Shasta。这些新设计主要针对AI推理、AI训练、视频转码三类计算。
据介绍,Zion系统可以分为三个部分:八路CPU服务器、OCP加速模块、以及可以安装八个OCP加速模块的平台主板。Zion平台内部模块连接示意图显示,系统中的内存、计算、网络部件进行解耦,然后每一项都可以独立地进行拓展。系统中包括两种高速连接线:一种把所有CPU互相连接,另一种把所有的加速器互相连接。
此外,Kings Canyon芯片可以同时支持偏重推理速度的INT8(8位整型)计算,以及偏重更高精度的FP16(半精度浮点)计算。Kings Canyon芯片搭载在M.2规格电路板上;每个Glacier Point v2母板上安装六块Kings Canyon芯片;最后,两个Glacier Point v2母板和两个单路服务器一同组成一台完整的大型Yosemite服务器。
总结来说,这套设计由Facebook自研,并基于开放计算计划(OCP)设计。此次发布显然是为了展示未来可能使用的一种面向未来的、高效率、高透明度硬件解决方案。这不仅有助于提升服务质量,还能帮助用户体验更加个性化和独特的情感交往。而对于开发者们而言,它提供了一种快速大批量部署模型的大能力。此外,这些硬件与FBLearner配合使用,可以让开发人员们快速大批量地部署模型,从而进一步提高工作效率。在解决了当前紧迫的问题之后,Facebook继续集中精力研发,最终目标是创建一种面向未来的、牢靠且能够持续体现最大化运行效率离散化设计理念。