为何平头哥与英伟达在MLPerf基准测试中并驾齐驱集成电路工资高得吓人
深声科技语音播放文章内容,由于您的浏览器不支持audio元素,您无法聆听。
雷锋网报道,MLPerf组织近日公布了第一个MLPerf Inference v0.5的结果,这一基准测试虽然尚处初级阶段,但已吸引了业界巨头的广泛关注。平头哥和英伟达在成绩发布后分别发表声明,宣称各自在该测试中取得了第一名。
自成立以来,MLPerf组织致力于建立机器学习处理器的基准测试,以便与CPU类似。目前,该组织已经囊括了包括英特尔、NVIDIA、Google和百度等知名企业。在技术上讲,MLPerf基准测试仍然处于成熟期,它们还没有完成所有功能,但其成果引起了巨大关注。
早在6月份,该组织就发布了第二个基准测试集MLPerf Inference v0.5。这是一个用于衡量各种加速器和系统执行训练后的神经网络速度和性能的工具。尽管这一版本仍然不完整,只涵盖五个网络/基准,并且没有包括功耗测试指标,但它已经吸引了主要芯片公司的关注。
第一轮官方基准提交接近600份,这远超出了预期,也反映出行业对MLPerf的期待,以及推理芯片市场数十亿美元潜力的快速增长。此外,每个人都可以根据不同的标准找到成功方案,比如总吞吐量、延迟以及每个加速器的吞吐量等。
作为更新,MLPerf分为五个基准,其中两个是其主基准移动衍生产品。当前套件中的桌面/服务器版本涵盖图像分类(ResNet50)、对象检测(ResNet34)和机器翻译任务(GNMT)。这些基于四种方案:单路、多路、服务器和离线,每种方案都提供终端或服务器两种最常见平台选项。
更进一步,MLPerf提供两个“分区”:封闭分区与开放分区。在封闭分区中,芯片必须使用预先训练好的网络并保持数学上的等效性,而开放分区则允许重新训练网络及进行更广泛量化工作,让芯片公司展示它们解决方案及其团队独创性的最佳方式。
最后,从长远来看,随着时间推移,我们将看到这个基础设施变得更加完善并且易于使用。如果运气好,我们很快就会能够将这些标准应用到我们自己的设备上,将这些建议转换为有意义的事实,以比较消费类硬件。这是一段令人激动人心时刻即将到来的旅程!