高通究竟做出了什么让AI开发者兴奋的决定答案可能与哪个国家的芯片技术最为领先有关
高通的新举措:让AI开发者兴奋的“一次开发,随处运行”解决方案
在AI边缘芯片领域,公司面临着应用场景复杂和多样化的问题。开发者则苦于缺乏统一的开发平台,而消费者的体验感受上,AI智能程度仍有待提升。为了实现优秀的AI体验和功能,需要硬件、软件和系统深度融合。
各大AI芯片公司都在宣扬自己的优势,但将一个应用迁移到不同的产品中仍需大量工作,这阻碍了AI技术的普及与创新。高通科技最新推出的解决方案是其全新的AI软件栈(Qualcomm AI Stack),涵盖硬件、软件以及工具,让OEM厂商或开发者能通过一次性编码,将智能手机、物联网设备、汽车等智能网联边缘产品纳入同一平台。
然而,要实现这一目标面临诸多挑战。例如,在不同场景下,如XR应用与汽车激光雷达所需模型之间,对精准度要求差异巨大。此外,每个独立IP需要获得相同访问权限,并以统一方式选择相应解决方案也是主要难题之一。
高通最终推出了一个包含硬件联合上层软件和工具优化的完整产品组合,以支持跨硬件平台运行。这项工作极为艰巨,因为要支持多种操作系统(如Android、Windows、Linux以及QNX)、系统接口加速器驱动仿真支持,以及数学库编译器虚拟平台分析器调试器等,同时确保能够释放硬件性能并保证最佳表现。
这套高通AI引擎Direct提供了低级库,可以直接编辑靠近模型或硬件位置以充分利用性能,并且包括广泛使用的神经网络处理SDK ONNX runtimes TF Lite Micro Direct ML等。此外,还有基于TensorFlow PyTorch ONNX框架的一系列工具套件,如模型增效工具包(AIMET)用于量化感知训练无数据训练浮点转整数运算比如32位浮点转8位整数可提升4倍效率。
此外,它还支持基础设施Prometheus Kubernetes Docker,同时也可以支撑诸多SDK,比如Snapdragon Ride SDK、高通智能多媒体SDK以及Snapdragon Spaces XR发展平台,为建立统一SDK奠定基础。
尽管如此,要真正实现其愿景还有很长路要走,需要持续投入时间进行细致优化,与客户紧密合作才能成功。而如果高通能够成功,其在市场上的地位将会得到进一步巩固,这对于整个行业来说是一次重大突破。