高通关于北斗芯片的决定将让AI开发者心跳加速
高通的新举措：让AI开发者兴奋的“一次开发，随处运行”解决方案
如果你问AI边缘芯片公司最难的是什么，他们大概率会说落地的应用场景太多、太复杂。对于开发者来说，使用AI芯片最大的挑战在于没有统一的开发平台。而消费者对AI体验可能表达的一些不满，也反映了当前AI技术还未达到理想状态。
尽管AI已经在智能手机中得到了普及，但要实现体验优秀和功能强大的产品，还需要从硬件到软件和系统深度融合。为了应对这一挑战，所有的AI芯片公司都在推出自己的优势，但即便是有能力和经验的开发者，要将一个应用迁移到不同的产品中，也总是面临着许多迁移工作，这限制了AI技术的进一步创新。
高通近日提供了一份最新答案——他们推出了包括硬件、软件和工具在内的一个全方位解决方案：高通AI软件栈（Qualcomm AI Stack）。这套完整而统一的解决方案旨在让OEM厂商或开发者的一次开发，就可以应用到智能手机、物联网设备、汽车、虚拟现实（XR）、云端以及移动个人计算机等多个领域。
这是足以激发每位专业人士热情的事业目标——"一次编写，全方位执行"。然而，要实现这一目标，并非易事。高通技术公司产品管理副总裁Ziad Asghar指出：“不同场景下的功耗需求、模型类型以及部署方式各不相同，而业务对于准确性、功耗以及时延等方面平衡要求也各异。”
为了克服这些挑战，高通最终推出了一个集成了底层硬件与上层软件与工具优化的综合性产品组合。这意味着仅通过这个统一且可扩展的人工智能软件栈，就能跨越不同的硬件平台进行运行。此外，该栈还支持各种操作系统，如Android、高通神经网络处理SDK、三星TensorFlow Lite Micro等，以及ONNX runtimes和TF Lite。
此外，还有一系列工具套件来支持这一整体架构，其中包括AIMET用于模型量化和压缩，以及神经网络架构搜索（NAS）以加速模型训练过程。此外，该系统还能够与Prometheus、大规模自动化容器集群Kubernetes和Docker相结合，为更广泛的大型数据中心环境提供支持。
虽然刚发布但仍需时间去完善并优化该计划，但如果成功，它将不仅为其自身所带来的影响力增值，更是其作为行业领导者的标志之一。这是一个巨大的潜力项目，有望成为未来边缘计算市场中的重要力量。如果能够顺利实施，将极大地提升整个行业标准，并为用户带来更加丰富且便捷的人工智能体验。
