智能无处不在26家芯片巨头联手安谋科技周易NPU引领端侧AI革命
在科技的光辉照耀下，大模型从云端的殿堂轻盈降临到终端的舞台。这一历史性的跨越，不仅赋予了数据处理以迅捷之翼，更将智能体验推向了前所未有的高度。终端上的大模型以灵动姿态，即时捕捉并回应着每一个细微需求，将AI触角延伸至世界的每一个角落。
近日，在EEVIA主办的第12届中国硬科技产业链创新趋势峰会暨百家媒体论坛上，安谋科技产品总监鲍敏祺发表了主题演讲《端侧AI应用芯机遇，NPU加速终端算力升级》。他深入剖析了端侧AI发展广阔前景，并详细介绍了安谋科技自研NPU最新进展。
AIGC大模型带来的算力提升是端侧AI迎来的最大机遇。在鲍敏祺看来，从近期头部大厂发布中都可以看出，端侧AI应用已经得到了业界的一致认可。当前国际和国内实际部署主流端侧大模型体量主要集中在100亿参数以下，这一限制主要是由于设备内存带宽范围通常在50-100GB/s之间。
为了满足用户对应用实时性的需求，10-30亿参数的大模型最适合部署在现有带宽条件下。这些模型能够保持高效性能提供快速响应和高质量服务。头部终端厂商如OPPO、vivo、小米、荣耀和华为等，都在积极推动端侧AI发展，他们不仅自研适合部署的大模型，还将其与具体业务场景紧密结合。
芯片厂商达成了共识认为AI NPU（神经网络处理单元）将是未来消费类电子产品发展重点。NPU通过专门优化硬件架构，大幅提升设备的AI计算能力，同时降低功耗。不过尽管开发者对于新技术充满期待，但也面临成本、功耗和生态系统挑战。
针对这些挑战，安谋科技自研“周易”NPU围绕微架构、能效和并行处理进行三重升级：微架构兼容CNN与Transformer；效率采用混合精度量化减少数据搬运；并行处理实现负载均衡减少数据传输。此外，“周易”NPU还支持异构计算，以适应不同应用场景，无论是在汽车信息娱乐系统还是ADAS领域，它都能提供20~320TOPS算力裁剪，为各个行业解决方案提供灵活性。
最后鲍敏祺强调，“周易”NPU不仅要考虑当前市场需求，还要预见未来多种存储介质，使其能够更好地满足市场需要，为用户提供更加全面、高效的智能体验。在这个过程中，他相信两者应该实现互补，以产生最大的收益，而非相互替代。他相信未来的趋势将是多模态场景，即结合图像、音频、视频等多种输入方式，使设备能够更全面地理解用户需求，从而实现真正的人工智能时代。
