高通背后的秘密关于AI的重大发现等你揭开谜团时你会惊讶于半导体与芯片之间隐藏的差异
高通的秘密计划:揭开AI芯片与半导体差异之谜
如果你问那些在边缘AI芯片领域摸爬滚打的公司最难解决的问题,他们可能会告诉你,落地应用场景繁多且复杂。开发者们面临的挑战则是缺乏统一的开发平台,而消费者对于AI产品和服务所期待的智能程度可能还未达到他们的心理预期。
尽管AI技术已经渗透到了智能手机中,但其体验仍然不够完善,功能也远未达到满足市场需求的地步。要实现真正出色的AI体验和产品,我们必须从硬件到软件再到系统层面进行深度融合。
所有这些,都在强调了芯片制造商需要提供一个全面的解决方案,以便让开发者能够轻松地将他们创建的应用程序移植到不同的设备上。这就是为什么高通推出了其最新的人工智能软件栈(Qualcomm AI Stack)的原因,这个解决方案包括了硬件、软件以及工具,让OEM厂商或开发者能通过一次编码就能够应用到智能手机、物联网设备、汽车、虚拟现实(XR)、云端和移动个人电脑等多种不同类型的产品上。
这个“一次编码,随处运行”的概念无疑是令人兴奋的一大进展。但要实现这一目标,高通不得不克服许多挑战。例如,在不同场景下,对于准确性、功耗以及时延等方面都有不同的平衡要求。而且,每个业务都有自己独特的情报处理需求,这意味着每一种解决方案都需要根据具体情况来定制。
为了应对这些挑战,高通推出了一个全新的人工智能引擎Direct,它是一个可以直接编辑接近模型或硬件位置以充分释放硬件性能并保证最佳表现的地方。此外,还有一系列工具套件可供选择,如人工智慧模型增效工具包(AIMET),它提供量化感知训练和无数据训练技术,从而将浮点运算模型转换为整数运算模型,大幅提升能效。
此外,该软件栈还支持包括Prometheus、Kubernetes和Docker在内的一系列基础设施,同时支持诸如Snapdragon Ride SDK用于汽车ADAS解决方案、高通智能多媒体SDK用于物联网,以及Snapdragon Spaces XR开发者平台用于虚拟现实等众多标准化API库,这些都是建立统一SDK架构的一个重要基石。
总之,要想实现任何面向单一终端开发的人工智慧特性都可在其他终端轻松部署,并非仅靠编译器就可以做到的,而需要整个生态系统之间紧密协作才能达成目的。虽然这项任务显得既复杂又具有挑战性,但如果成功,将为高通带来巨大的优势,并使其成为人工智慧市场中的领导者。