高通背后的秘密芯片究竟有几层
高通的秘密：芯片究竟有几层？
如果你问AI边缘芯片公司最难的是什么，他们大概率会说落地的应用场景太多、太复杂。开发者使用AI芯片最难的是什么，他们可能会说没有统一的开发平台。消费者使用AI最大感受是什么，他们或许会表达一些对AI智能程度的不满。
AI已经在智能手机中普及，但AI体验还不够完善，功能也还不够强大。想要实现体验优秀的AI功能和产品，一定需要从底层的硬件到上层的软件和系统深度融合。
所有AI芯片公司都在大谈自家产品优势，但即便对于有能力和经验的AI开发者，将一个应用转移到不同的产品中总是有许多迁移工作，这也阻碍了AI普及和进一步创新。
为了解决这个问题，高通给出了最新解决方案——高通AI软件栈（Qualcomm AI Stack），包括硬件、软件工具，让OEM厂商或者开发者的一次开发，可以应用到智能手机、物联网、汽车、XR、云移动PC等智能网联边缘产品。这足以让开发者兴奋的是“一次开发，随处运行。”
但要实现这个目标面临着挑战。Ziad Asghar指出，“不同场景下的功耗需求模型类型模型部署方式都有所不同，不同业务对于准确性功耗以及时延平衡要求也有所不同。”
Jeff Gehlhaar提到，“如何让我们所有不同的IP都能获得同样的访问权限，让每个IP都能够以统一方式选择相对应解决方案，这是一个主要挑战。”
高通推出的则是基于Direct上述这些高通软件栈可以实现。“基于高通Direct，上述这些高通软件栈都可以实现。” Ziad Asghar说，“可视为一个较低级别库，可以在最靠近模型或硬件位置进行编辑充分释放硬件性能确保最高峰值表现。”
这套软件栈支持系列工具套件，包括AIMET、高通神经网络处理SDK ONNX runtimes TF Lite and TF Lite Micro Direct ML。此外，还支持TensorFlow PyTorch ONNX，以及Prometheus Kubernetes Docker基础设施。
这一切都是为了使得任何面向单一终端编写的人工智能特性，都可轻松部署其他终端上。而这需要编译器之类组成部分协作共同工作才能实现。
虽然刚发布但要真正实施其愿望还有很长路要走，需面对复杂性的提升并进行大量细致优化，与客户紧密合作才可能最终达到愿望。这需要时间，更需要持续投入。但如果成功，不仅是其技术路线图战略成功，更是其在市场上的巨大成功关键。
