小米芯片引领潮流安谋科技周易NPU开启端侧AI革命新篇章
在科技的光辉照耀下，大模型从云端的宫殿轻盈降临到终端的舞台。这一历史性的跨越，不仅赋予了数据处理以迅捷之翼，更将智能体验推向了前所未有的高度。终端上的大模型以灵动姿态，即时捕捉并回应着每一个细微的需求，将AI触角延伸至世界每一个角落。
近日，在EEVIA主办的第12届中国硬科技产业链创新趋势峰会暨百家媒体论坛上，安谋科技产品总监鲍敏祺发表了主题演讲《端侧AI应用芯机遇，NPU加速终端算力升级》。他深入剖析了端侧AI发展广阔前景，并详细介绍了安谋科技自研NPU最新进展。
AIGC大模型带来的算力提升是端侧AI迎来的最大机遇。鲍敏祺表示，从近期头部大厂发布中都可以看出，端侧AI应用已经得到了业界的一致认可。
当前，国际和国内实际部署主流端侧大模型体量主要集中在100亿参数以下。这一限制主要是由于设备内存带宽范围通常在50-100GB/s之间。为了满足用户对应用实时性的需求，10-30亿参数的大模型最适合部署现有的带宽条件下。这类模式能够保持高效性能同时提供快速响应与高质量服务。
头部终端厂商如OPPO、vivo、小米、荣耀和华为等，都在积极推动端侧AI发展。他们不仅自研适合于此的大型模型，还将其与具体业务场景紧密结合。芯片厂商也达成了共识认为神经网络处理单元（NPU）将成为未来消费电子产品发展重点。在专门优化硬件架构后，可以显著提升设备计算能力，同时减少功耗。
尽管开发中的挑战仍然存在，但通过“周易”NPU实现三重升级：微架构优化、能效增强以及并行处理能力提升，以克服成本、功耗以及生态系统三个方面的问题。
作为跨领域专家，“周易”NPU已被成功运用于多个关键领域，如汽车应用、中间件加速卡以及智能物联网设备中。此外，其兼容性强且灵活性高，使其成为各种复杂任务解决方案不可或缺的一部分。
最后，鲍敏祺指出：“周易”NPU正不断迭代，为未来的市场需求做好准备，而这次演讲不仅展示了安谋科技技术成果，也预示着接下来的人工智能革命将如何改变我们的生活方式和工作环境。
