智能无处不在安谋科技周易NPU与门芯片开启端侧AI新时代赋能每一寸空间
在科技的光芒中，大模型从云端的殿堂轻盈而来，降临于终端之上。这一历史性的跨越，不仅赋予了数据处理以迅捷之翼，更将智能体验推向了前所未有的高度。终端上的大模型以灵动姿态，即时捕捉并回应着每一个细微的需求，将AI触角延伸至世界每一个角落。
近日，在EEVIA主办的第12届中国硬科技产业链创新趋势峰会暨百家媒体论坛上，安谋科技产品总监鲍敏祺发表了主题演讲《端侧AI应用芯机遇：NPU加速终端算力升级》，他深入剖析了端侧AI发展广阔前景，并详细介绍了安谋科技自研NPU最新进展。
AIGC大模型带来的算力提升，是端侧AI迎来的最大机遇。鲍敏祺表示，从近期头部大厂发布中都可以看出，端侧AI应用已经得到了业界的一致认可。当前国际和国内实际部署的主流端侧大模型体量主要集中在100亿参数以下，这一限制主要是由于设备内存带宽范围通常在50-100GB/s之间。
为了满足用户对应用实时性的需求，10-30亿参数的大模型最适合部署现有的带宽条件下。这类模型能够保持高效性能提供快速响应和高质量服务。头部终端厂商如OPPO、vivo、小米、荣耀和华为等，都在积极推动端侧AI发展，他们不仅自研适合部署的大模型，还将其与具体业务场景紧密结合。芯片厂商也达成了共识，认为神经网络处理单元（NPU）将是未来消费类电子产品发展重点。
尽管 端侧AI发展势头强劲，但鲍敏祺强调，这并不意味着要彻底放弃云端AI相反，他认为两者应该实现互补才能产生最大收益。通过观察学习未来的智能系统能更好地预测并满足用户期望，从而实现真正智能化。
面对三重挑战：成本、功耗和生态系统，安谋科技自研“周易”NPU围绕微架构、效率以及并行处理进行三重升级。
· 微架构：针对Transformer优化克服计算瓶颈
· 效率：混合精度量化减少数据搬运
· 并行处理：使用负载均衡Tiling减少数据搬运
下一代周易“NPU”将继承优势并持续优化精度、带宽调度管理及算子支持，同时考虑未来各种存储介质适配，以满足当前及未来市场需求。在多个关键领域展示其性能，如汽车应用、加速卡以及IoT场景中，“周易”NPU已累计出货40万片成功定点应用于吉利旗下的领克车型等20余款主力车型中。此外，它还能提供高效算力支持保证高度安全性，使其成为理想选择多个应用场景中。
最后鲍敏祺表示下一代周易“NPU”会显著增强前代产品特点优势，并围绕精度、高带宽调度管理及算子支持进行持续优化，以更好地满足当前及未来市场需求。
