高通正秘密制定一项革命性决定将彻底改变AI开发者的世界但你知道他们在幕后悄然酝酿的是什么吗答案隐藏在
高通的秘密决定:一款革命性芯片将彻底改变AI开发者的世界
在深夜,高通公司的研发团队紧张地工作着,他们正秘密制定一项决策,这将影响整个AI行业。这个决定隐藏在芯片生产的神秘过程中,等待着最敏锐的探索者揭晓。
如果你问AI边缘芯片公司最难的是什么,他们大概率会说落地应用场景太多、太复杂。如果你问开发者使用AI芯片最难的是什么,他们可能会说没有统一的开发平台。如果你问消费者使用AI最大感受是什么,他们或许会表达一些对AI智能程度的不满。
要实现体验优秀的AI功能和产品,一定需要从底层硬件到上层软件和系统深度融合。所有AI芯片公司都在大谈自家产品优势,但即便对于有能力和经验的AI开发者,要将一个应用迁移到不同的产品中总是有许多迁移工作,这也阻碍了AI普及和进一步创新。
为了解决这个问题,高通推出了最新解决方案——高通AI软件栈(Qualcomm AI Stack),包括硬件、软件和工具,让OEM厂商或者开发者的一次开发,就可以应用到智能手机、物联网、汽车、XR、云和移动PC等智能网联边缘产品。这是一次能让开发者兴奋的事“一次开发,随处运行”。
但想要实现这个目标,面临着诸多挑战。Ziad Asghar指出,“不同业务对于准确性、功耗以及时延等方面平衡要求各不相同,比如XR应用与汽车领域激光雷达模型所需的手势追踪、大量3D重建需求截然不同。”
Jeff Gehlhaar提到,“如何让我们所有不同的IP获得同样的访问权限,让每个IP都能够以统一方式选择相应解决方案,是主要挑战之一。” 高通终于推出了含义丰富的一系列产品组合,从底层硬件联合上层软件优化,以此来实现跨平台运行。
这是一项十分挑战性的工作,要支持不同的操作系统,如Android、Windows、高级实时操作系统QNX,以及完整支持系统接口加速器驱动仿真支持。在库与服务层面要提供数学库编译器虚拟平台分析器调试器,并且还要支持编程语言核心库。此外,还需要分析器帮助了解模型使用情况以及应当如何权衡分析权重。
基于Direct AI引擎,上述这些高通软件都可以实现。Ziad Asghar解释道:“Direct可视为一个较低级别库,可以在靠近模型或硬件位置进行编辑,最终释放硬件性能并保证最高峰值表现。”
此外,还有一系列工具套件,如AIMET图形用户界面用于增强量化与优化模型分析师神经网络架构搜索(NAS)。它提供了模型量化压缩技术,将浮点运算转换为整数运算,比如32位浮点转8位整数,可提升效能至4倍。
除了这些,它还支持基础设施Prometheus Kubernetes Docker,以及诸多SDK,如Snapdragon Ride SDK、高通智能多媒体SDK以及Snapdragon Spaces XR平台,为建立统一SDK奠定基础。Ziad Asghar表示:“任何单一终端上的特性部署到其他终端上,都需要编译器作为关键因素之一,但它只是众多组成部分之内,此外还有准备优化调度器硬件调试等重要因素。”
因此刚发布的高通AI软件栈,要真正实现其愿景还有很长路要走,不仅面对复杂性大幅提升挑战,也需要大量细致优化与客户紧密合作才能成功,这需要时间,更需要持续投入。但如果能够成功,则是其技术路线图战略巨大的成功也是其在市场获得巨大成功关键之举。