生物芯片领域迎来革命性突破新一代TPU v4性能强大如同世界第一超算的双胞胎弟弟
生物芯片领域迎来新里程碑!Google TPU v4强势发布,性能惊人,单个Pod算力达全球超算两倍
在无人的Google园区内,CEO桑达尔·皮查伊宣布推出多项创新技术,其中包括全息视频聊天技术Project Starling和最新一代AI芯片TPU v4。这是Google上部署的最快系统,对我们来说是一个历史性的里程碑。
TPU v4相比上一代TPU v3性能提升2.7倍。实际应用中,每一个TPU v4 Pod中有4096个TPU v4单芯片,这些芯片通过独特互连技术组成一个系统,其互连带宽在规模上是其他任何网络技术的10倍。每个Pod可以达到1 exaFlOP级别的算力,即便是在全球最快超级计算机“富岳”之上的两倍性能。
如果现在有1千万人同时使用笔记本电脑,所有这些计算机累加的计算能力,就能达到1 exaFLOP的算力,而之前要达到这一点,我们可能需要专门定制一个超级计算机。
今年MLPerf结果表明,Google TPU v4实力的不容小觑。在图像分类训练测试(准确度至少75.90%)方面,它与768个Nvidia A100图形卡、192个AMD Epyc 7742内核、512个华为AI优化的Ascend910芯片以及128个Intel Xeon Platinum 8168内核组合起来一样快速。对于基于Transform阅读理解BERT模型的大型维基百科语料库训练,该模型得分也很高,与使用4096 TPU v3进行训练所需时间相比,只需多花了约1分钟。此外,它还展示了能够用到TPU v4的具体AI实例,如MUM模型和LaMDA对话模型。
自2016年首款内部定制AI芯片发布以来,Google已经更新至五代Trends AI Chip家族。这次推出的新一代产品将用于Google Cloud客户,并计划在今年晚些时候开放给他们使用。值得注意的是,大部分Pod将采用绿色能源运行,这符合公司减少环境影响的一贯努力。