里程碑式手机新贵发布性价比高达TPU v4级别性能超越同价位竞品两倍
Google I/O开发者大会今年在疫情的阴影下举行,通过线上形式展现了公司最新的技术成果。Google CEO桑达尔·皮查伊宣布推出多项全新技术,其中包括能够实现“空间瞬移”的全息视频聊天技术Project Starling,以及最新一代AI芯片TPU v4。
TPU v4性能提升2倍,速度翻番
Google官方介绍,TPU v4相较于上一代TPU v3性能平均提升2.7倍。在实际应用中,每一个Pod都有4096个单独的TPU v4芯片,这些芯片采用了独特的互连技术,使得它们可以集成到一个系统中,从而形成巨大的计算能力。每个Pod都能达到1 exaFlOP级别的算力,即使是全球最快超级计算机“富岳”也无法与之相比。
如果现在有1千万人同时使用笔记本电脑,它们累加起来所需时间完成某项任务,与单个使用这个高效率系统相同。这意味着过去需要专门定制一个超级计算机才能达到这样的能力,现在则变得非常容易和高效。
MLPerf结果表明,Google TPU v4在图像分类训练测试方面表现卓越,在256 个TPU v4完成任务只需要1.82分钟,而使用Nvidia A100、AMD Epyc 7742或Intel Xeon Platinum 8168等硬件组合也无法超过这一时间。
此外,负责在大型维基百科语料库上训练基于Transforms的BERT模型时,由于其强大的处理能力,可以用256个TPU v4进行训练,只需1.82分钟,比其他硬件组合要慢,但仍然保持领先地位。
展示AI实例
除了这些数字数据显示出的强劲性能外,Google同样展示了一些具体AI实例,如MUM(Multitask Unified Model)和LaMDA(Large Language Model Dialog Applications),这两种模型都是能够充分利用TPU v4优势的场景模型。MUM适用于赋能搜索引擎帮助用户更快速找到信息,而LaMDA则可与人类进行不间断对话交流,其功能远胜过传统阅读理解模型BERT。
虽然目前这些自研芯片并没有向公众销售,但将会被部署到Google数据中心,并且90%以上将依赖绿色能源。此外,这些芯片将会在今年晚些时候开放给使用Google Cloud服务的人员。这标志着一次重要转变,不仅对于科技界,也对于整个地球环境来说是一个积极发展的一步。