后方格智能化观察网
首页 > 资讯 > 高通正酝酿一项将彻底改变AI开发者心态的决定但你知道吗这背后隐藏着什么它与芯片有何深刻关联答案即将揭

高通正酝酿一项将彻底改变AI开发者心态的决定但你知道吗这背后隐藏着什么它与芯片有何深刻关联答案即将揭

高通的新举措:让AI开发者兴奋的“一次开发,随处运行”解决方案

在AI边缘芯片领域,最大的挑战之一是将复杂多变的应用场景落地实施。对于开发者而言,更难的是缺乏统一的开发平台来支持这些应用。而消费者的最大感受则是对当前AI体验和智能程度的一种不满。

尽管AI已经渗透到智能手机中,但其体验仍需改进,而功能也远未达到理想水平。要实现卓越的AI体验和产品,需要从硬件层面到软件和系统层面的深度融合。

所有领先的AI芯片公司都在宣传他们各自产品的优势,但即便是有能力且经验丰富的开发者,要将一个应用迁移到不同设备上,也常常需要进行大量迁移工作,这极大地阻碍了AI技术的普及与创新发展。

为了解决这一问题,高通推出了其最新解决方案——高通AI软件栈(Qualcomm AI Stack),这包括硬件、软件以及工具,使得OEM厂商或开发者可以通过一次性的努力,就能将应用部署到智能手机、物联网设备、汽车、虚拟现实(XR)、云端服务以及移动个人电脑等多个场景中。这无疑是一个让人兴奋的事业目标——"一次开发,随处运行"。

然而,这项任务面临着众多挑战。根据高通技术公司产品管理副总裁Ziad Asghar所述,“不同场景下的功耗需求、模型类型以及模型部署方式都有所不同,不同行业对于准确性、功耗以及时延等方面要求也有很大差异。”

为了克服这些挑战,高通最终推出了一个完整的人工智能软件栈组合,从底层硬件与上层软件及工具优化,以实现跨硬件平台上的单一编程环境。这种全方位结合了不同的操作系统,如Android、Windows和Linux,以及专为网联汽车设计的心智操作系统QNX。此外,还包括了完整支持系统接口、高级加速驱动程序、高效仿真支持,以及数学库编译器虚拟平台等,并且还提供分析器调试器帮助了解每一步骤中的性能使用情况,以及如何利用硬件资源以最佳效果。此外,还包含了一系列编程语言核心库使得用户能够轻松调用各种功能模块。

该套装还集成了Direct AI引擎,上述所有相关功能均可基于这个引擎进行编辑,以充分释放出最高性能表现。此之上还有各种runtime环境,如广泛使用神经网络处理SDK ONNX runtimes TF Lite Micro Direct ML 等,它们共同构成整个框架,其中TensorFlow PyTorch 和ONNX都是关键组成部分。而针对模型增强工具包AIMET提供量化感知训练,无数据训练,将浮点转换为整数运算提升4倍效率。

此外,该套装还支持诸如Prometheus Kubernetes Docker基础设施,使得用户可以更好地管理整个流程。

最后,该套装还涵盖了Snapdragon Ride SDK 物联网SDK SnapDragon Spaces XR平台 SDK等多个SDk,为各类行业提供特定的解决方案。

总之,在实现任何特定于单一终端但可轻松部署至其他终端的情形下,是非常关键的一个环节,因为它涉及到模型准备优化调度器硬件调试甚至保证软/ 硬协同效率。但正因为如此,其成功依赖于大量细致优化与客户紧密合作才能达成,而这需要时间投入不断增长。

标签:

猜你喜欢

智能化资讯 苏州大学应用技...
院校历史与发展 苏州大学应用技术学院成立于2002年,是苏州大学的一个重要组成部分。自成立以来,学院一直致力于培养高素质的应用型人才,以适应社会对科技创新...
智能化资讯 芯片风暴202...
芯片风暴:2022进口金额背后的秘密 一、全球芯片市场的变革 在过去的一年里,全球芯片市场经历了前所未有的波动。从半导体制造商到电子设备制造商,从消费者到...
智能化资讯 芯片革命小巧而...
芯片革命:小巧而强大的数字化助手 芯片的好处:提高效率与性能 现代社会中,随着科技的不断进步,微电子技术在各种领域中的应用日益广泛。尤其是在通信、计算机和...
智能化资讯 芯片霸主谁将掌...
芯片霸主:谁将掌握未来计算的命脉? 在全球化的大潮中,技术的进步和创新成为了国家竞争力的重要标志。芯片制造业作为现代电子产业的核心,其技术水平和市场占有率...

强力推荐