探索智能无处不在的秘密安谋科技周易NPU如何开启端侧AI新时代
在科技的光芒下，巨大的模型从云端的宫殿飘然而至终端的舞台。这一历史性的飞跃，不仅赋予了数据处理以迅捷之翼，更将智能体验推向了前所未有的高度。终端上的大模型以灵动的姿态，即时捕捉并回应着每一个细微的需求，将AI的触角延伸至世界的每一个角落。
近日，在EEVIA主办的第12届中国硬科技产业链创新趋势峰会暨百家媒体论坛上，安谋科技产品总监鲍敏祺发表了精彩的话题演讲《端侧AI应用芯机遇，NPU加速终端算力升级》。他深入剖析了端侧AI发展的大好前景，并详细介绍了安谋科技自研NPU最新进展。
端侧AI正在崛起
AIGC大模型带来的算力提升是端侧AI迎来的最大机遇。鲍敏祺表示，从近期头部大厂发布中都可以看出，端侧AI应用已经得到了业界的一致认可。
当前国际和国内实际部署主流端侧大模型体量主要集中在100亿参数以下。这一限制主要是由于设备内存带宽范围通常在50-100GB/s之间。为了满足用户对应用实时性的需求，10-30亿参数的大模型最适合部署现有带宽条件下。此类模型能够保持高效性能提供快速响应与高质量服务。
头部终端厂商如OPPO、vivo、小米、荣耀及华为等，都在积极推动这个方向。大型芯片制造商也达成了共识认为未来消费电子产品发展重点将是神经网络处理单元（NPU）。通过专门优化硬件架构，可以显著提升设备计算能力同时降低功耗。
尽管这方面发展势头强劲，但鲍敏祺指出，这并不意味着要彻底放弃云服务。相反，他认为两者应该实现互补才能产生最大收益。在这一点上，我们可以看到末来几年对于人工智能领域来说是一个充满挑战与机会的时候期望我们不忘初心继续前行，以此为契机探索更广阔的人工智能时代！
