高通究竟做出了什么让AI开发者兴奋的决定答案隐藏在芯片的难度之中等着你去揭晓
高通的新举措:一款能让AI开发者兴奋的芯片解决方案
如果你问AI边缘芯片公司最难的事情,他们可能会说是如何将复杂的应用场景转化为实际产品。对于开发者来说,使用AI芯片最大的挑战在于缺乏统一的开发平台。而消费者则可能对AI体验中的智能程度感到不满。
尽管AI已经渗透到智能手机中,但其体验仍然不够完善,功能也还远未达到理想状态。要实现出色的AI体验和强大功能,我们需要从底层硬件到上层软件和系统进行深度融合。
所有的AI芯片公司都在宣传自己的优势,但即便是有能力和经验丰富的开发者,要将一个应用程序迁移到不同的产品中,也总有一系列复杂的手续,这些障碍阻碍了AI技术的普及与创新发展。
为了解决这个问题,高通推出了其最新解决方案——高通AI软件栈(Qualcomm AI Stack),这包括硬件、软件以及工具,使得OEM厂商或开发者的一次开发能够应用到智能手机、物联网设备、汽车、虚拟现实(XR)、云端服务以及移动PC等多个领域。这无疑是一个令人振奋的一次“一次编写,随处运行”的可能性。
然而,要实现这一目标并不容易。高通技术公司产品管理副总裁Ziad Asghar指出:“不同场景下的功耗需求、模型类型和部署方式各异,不同业务对于准确性、功耗以及时延等方面也有不同的平衡要求。”例如,在XR应用中所需的手势追踪和3D重建,与汽车领域所需激光雷达模型相比,其精度要求完全不同。
为了克服这些挑战,高通最终推出了一个完整的人工智能软件栈组合,从底层硬件联合上层软件和工具优化,以支持跨硬件平台运行。这是一项极具挑战性的工作,它需要支持多种操作系统,如Android、Windows、Linux以及面向网络连接汽车的QNX等。在系统软件层面,还需要提供完整支持接口加速器驱动仿真,以及分析器调试器等。此外,还必须支持数学库编译器虚拟平台,并提供分析情况帮助了解使用情况及其在硬件上的权重分配。此外,还要提供编程语言核心库,以及基于神经网络处理SDK ONNX runtimes TF Lite and Direct ML 等 支持广泛使用的一系列工具套装包括AIMET AI development GUI model analyzer NAS 等。
其中AIMET 提供量化感知训练无数据训练浮点运算转换为整数运算,比如32位浮点转8位整数能效提升可达4倍。
此外还有Prometheus Kubernetes Docker 基础设施支持。
这种架构设计可以使Snapdragon Ride SDK 物联网SDK Snapdragon Spaces XR 平台共享基础代码结构,为建立统一SDK奠定基础。
Ziad Asghar 表示,“任何单一终端上的特性都可轻松部署其他终端,只有编译器才不是唯一重要因素,同时还包括模型准备优化调度器硬件调试以及如何利用资源等。”
因此刚发布的大型项目要真正实现愿景还有很长路要走,对于软 件复杂性的提升进行大量细致优化与客户紧密合作才能成功,这必 需时间持续投入。但如果成功,则不仅是其统一技术路线图战略胜利,更是其在人工智能市场获得巨大成功关键一步。