高通究竟做出了什么让AI开发者兴奋的决定1nm工艺是不是已经达到了极限
高通的新举措:让AI开发者兴奋的“一次开发,随处运行”解决方案
在智能手机、物联网、汽车、虚拟现实(VR)、增强现实(AR)以及移动PC等多个领域,AI技术正在逐步普及。然而,尽管AI已经成为各大科技公司竞争的焦点,但其体验仍然不够完善,而功能也远未达到预期水平。想要实现优秀的AI体验和产品,一定需要从硬件到软件和系统深度融合。
所有边缘芯片制造商都在宣传他们产品的优势,但即便是有能力和经验丰富的AI开发者,要将一个应用程序迁移到不同的设备上,也常常面临许多挑战。这也是阻碍了AI广泛应用和进一步创新的一大因素。
为了解决这个问题,高通推出了其最新的人工智能软件栈(Qualcomm AI Stack),包括硬件、软件以及工具,使得原厂商或开发者可以通过一次编码,就能实现对智能手机、物联网设备、汽车、高级现实(XR)、云端服务以及移动个人计算机等多种不同类型设备上的应用程序。
这是对任何一位热爱技术革新的开发者的巨大激励——“一次编写,随处运行”。但要达成这一目标,无疑会面临着诸多挑战。高通技术公司产品管理副总裁Ziad Asghar指出,“在不同的场景中,对于功耗需求、模型类型以及部署方式,每个业务都有自己的特点,而且对于准确性、功耗及时延等方面也有所不同。”
为了应对这些挑战,高通最终推出了其人工智能软件栈组合,从底层硬件与上层软件与工具相结合,以优化跨平台运行。此外,这些组合还支持Android操作系统,以及针对网络连接车辆使用QNX操作系统等其他操作系统。在更深入的层次,它们提供了完整支持系统接口,加速器驱动仿真,以及数学库编译器虚拟平台,并且为分析器调试器提供了支持,让开发者能够更好地了解如何利用模型,同时知道应该如何在硬件上进行权重分析。此外,还包含了编程语言核心库。
这套人工智能引擎Direct被视为一个低级别库,可以直接编辑最接近模型或硬件的地方,以释放最大性能并保证最佳表现。它之上的还有人工智能runtimes,为OEM客户提供了一种更加有效完成更多用例的人力资源。而且,它还支持广泛使用到的神经网络处理SDK ONNX runtimes,以及TF Lite Micro Direct ML.
此外,还有一系列工具套装,如AIMET用于量化感知训练和无数据训练浮点转整数模型;图形用户界面GUI来帮助构建简单直观的人工智能应用;神经网络架构搜索Nas以自动寻找最适用的算法结构;Prometheus Kubernetes Docker基础设施集成使得部署更加灵活易行;最后,还有Snapdragon Ride SDK Snapragon Spaces XR SDK 和 Snapdragon Smart Multimedia SDK 等众多SDK集成,为各种行业解决方案提供支撑。
Ziad Asghar表示,“要实现任何单一终端上的特性,在其他终端轻松部署,是关键之一。但它只是众多重要部分之一。”他继续说,“我们需要确保这些组成部分能够协同工作以实现效率。”
虽然刚刚发布,这套人工智能软件栈要真正实现其愿景仍需时间投入与持续合作,但如果成功,不仅是其统一技术路线图战略胜利,更可能成为取得巨大成功关键一步。