为何平头哥与英伟达在MLPerf基准测试中并驾齐驱哪个国家的芯片最为强悍
深声科技语音播放文章内容:为什么平头哥和英伟达在MLPerf基准测试中都获得了第一?你可以通过以下链接获取更多信息:[链接]
MLPerf组织近期发布了第一个MLPerf Inference v0.5的结果,这一事件引起了业界巨头公司的广泛关注。平头哥和英伟达在成绩公布后分别发布消息,宣称自己都获得了第一名。
自去年初成立以来,MLPerf组织一直致力于建立机器学习处理器的基准测试。为了使其更接近CPU这样的传统硬件,组织包括知名企业如英特尔、NVIDIA、Google和百度等在内的所有行业领导者。
尽管这个版本仍然不完整,只覆盖五个网络/基准,并且没有包含功耗测试指标,但它已经吸引了主要芯片公司的注意。这些公司希望展示他们的硬件在基准测试中的表现,并向客户(以及投资者)解释为什么他们的解决方案更好。这次提交超过600份结果,比预期多得多,这表明行业对MLPerf有着巨大的期待,以及推理芯片市场数十亿美元将会持续增长。
随着第一轮申请工作完成,MLPerf现在发布了Inference v0.5的官方结果,但大部分主要芯片公司都还没有发布与结果相关的公告或新闻稿。虽然这个套件目前只涵盖桌面/服务器版本,但未来计划扩展到移动设备。
作为更新,MLPerf分为五个基准,其中两个是其主基准移动衍生产品。在选择要使用精度等级方面,芯片公司具有一定的灵活性,但必须达到数学上的等效性并禁止重新训练网络。此外,还提供开放式分区,让芯片公司以最佳方式展示它们解决方案和团队独创性。
深入研究结果显示,该组织收到了除神经形态和模拟系统以外几乎每种类型处理器的心得意见,从CPU到GPU,再到FPGA、DSP和专用ASIC等领域均有代表参与。此外,也出现了一些预期外的情况,如Raspberry Pi 4及阿里巴巴含光800加速器。
总体来说,每个类别中几乎每家芯片制造商都能取得胜利。在离线测试中,我们看到Google从1 TPUv3拓展至32 TPUv3;NVIDIA Tesla加速器在某些测试中排名靠前;英特尔则位列CPU榜首;而高通骁龙855也超出了SoC范围内。
关于此次推理性能成绩,不会成为最终成绩,因为开发仍需完善,以添加其他网络类型,如语音识别任务。此外,将进行功耗测试,以便大家可见设计效率,因为电源效率通常是大规模部署规划中的关键考虑因素。
尽管早期版本尚未完善,但对于芯片制造商来说,他们现在知道自己与竞争对手相处位置。而机器学习优化之所以重要,是因为意味着还有大量空间来优化系统以准备将来的正式测验,以及设计出更好的新硬件。客户(其中一些人正在委员会上)希望加快进程,因此既然第一个结果已揭晓,就可以专注于产品并了解如何进行下一轮正式测验。