高通正秘密制定一张将颠覆AI开发者世界的蓝图芯片内部结构图的惊人变革
高通的秘密计划：一张将颠覆AI开发者世界的蓝图——芯片内部结构图的惊人变革
如果你问AI边缘芯片公司最难的是什么，他们大概率会说落地的应用场景太多、太复杂。
如果你问开发者使用AI芯片最难的是什么，他们可能会说没有统一的开发平台。
如果你问消费者使用AI的最大感受是什么，他们或许会表达一些对AI智能程度的不满。
AI已经在智能手机中普及，但AI体验还不够完善，想要实现体验优秀的AI功能和产品，一定需要从底层硬件到上层软件和系统深度融合。
所有AI芯片公司都在大谈自家产品优势，但即便对于有能力和经验的大能开发者，想要将一个应用于不同的产品中，总是有许多迁移工作，这也在很大程度上阻碍了AI普及与进一步创新。
为了解决这个问题，高通今天给出了最新解决方案——高通AI软件栈（Qualcomm AI Stack），包括硬件、软件和工具，让OEM厂商或者开发者的一次开发，就可以应用到智能手机、物联网、汽车、XR、云和移动PC等智能网联边缘产品。这足以让开发者兴奋的是“一次开发，随处运行。”
但要实现这个目标，面临着诸多挑战。高通技术公司产品管理副总裁Ziad Asghar指出，“不同场景下的功耗需求模型类型以及模型部署方式各不相同，不同业务对于准确性功耗以及时延平衡要求也各不相同。”
高通技术公司技术副总裁Jeff Gehlhaar提到，“如何让我们所有不同的IP都能获得同样的访问权限，让每个IP都能够以统一方式选择相对应解决方案，这是一个主要挑战。”
为了跨硬件平台运行、高通推出了带来了一项十分挑战性的工作，要支持不同的操作系统，从AndroidWindowsLinux以及面向网联汽车QNX等。此外，还要支持数学库编译器虚拟平台，以及分析器调试器，以帮助了解过程中的模型情况，以及如何用权重进行分析。此外，还要支持编程语言核心库。
基于Direct上述这些高通软都是可以实现。Ziad Asghar说：“基于Direct可视为一个较低层级库，可以在靠近模型或硬件位置进行编辑，使得释放性能最高峰值表现。”
除了这一系列工具套件还有包括PrometheusKubernetesDocker基础设施。
这可以支持诸多SDK，比如Snapdragon Ride SDKSmart Multimedia SDK以及Snapdragon Spaces XR发此基础建立了统一SDK。
Ziad Asghar表示：“要实现任何面向单一终端发展特性的全新部署，都需编译器确实关键，但它只是众多组成部分之一，此外还包括模型准备优化调度器硬件调试，以及如何充分利用资源等等.”
因此刚发布了高通软件栈，要真正实现其愿望还有很长路需走，在未来的时间里仍然需要投入大量细致优化与客户紧密合作才可能最终达到愿望，这需要时间更需要持续投入。但如果成功，不仅是其统一技术路线图战略成功，更是其在市场获得巨大成功关键。
