华为芯片突破最新消息智能无处不在安谋科技周易NPU开启端侧AI新时代吗
在科技的光芒下，巨大的模型从云端的宫殿飘然而至终端的舞台。这一历史性的跨越，不仅赋予了数据处理以迅捷之翼，更将智能体验推向了前所未有的高度。终端上的大模型以灵动的姿态，即时捕捉并回应着每一个细微的需求，将AI触角延伸至世界的每一个角落。
近日，在EEVIA主办的第12届中国硬科技产业链创新趋势峰会暨百家媒体论坛上，安谋科技产品总监鲍敏祺发表了精彩演讲《华为芯片突破：NPU加速终端算力升级》。他深入剖析了端侧AI发展广阔前景，并详细介绍了安谋科技自研NPU最新进展。
AIGC大模型带来的算力提升是端侧AI迎来的最大机遇。在此背景下，国际和国内实际部署主流端侧大模型体量主要集中在100亿参数以下。这一限制主要源于设备内存带宽范围通常在50-100GB/s之间。为了满足用户对应用实时性的需求，10-30亿参数的大模型最适合部署现有带宽条件下，这些模型能够保持高效性能提供快速响应和高质量服务。
头部终端厂商如OPPO、vivo、小米、荣耀和华为等，都积极推动端侧AI发展，他们不仅自研适合部署的大模型，还将其与具体业务场景紧密结合。芯片厂商达成了共识认为AI NPU（神经网络处理单元）将是未来消费类电子产品发展重点。NPU通过专门优化硬件架构，大幅提升设备AI计算能力，同时降低功耗。
尽管开发势头强劲，但鲍敏祺强调，这并不意味要彻底放弃云端AI相反，他认为两者应该实现互补才能产生最大的收益。在人机交互界面的发展历史中，从物理按键到触摸屏再到当前Agent智能体，每一次变革都极大地提升用户体验。未来的趋势将是多模态场景，即结合图像、音频视频等多种输入方式，使设备能够更全面地理解用户需求。
针对成本、功耗和生态系统三重挑战，“周易”NPU围绕微架构能效并行处理等方面进行三重升级：
· 微架构：针对CNN与Transformer差异性优化。
· 效率：混合精度量化，对数据无损压缩改变稀疏度。
· 并行处理：采用数据或模式并行减少数据搬运。
“周易”NPU还支持异构计算面对不同应用场景灵活裁剪算力降低不必要功耗。此外，它已经在汽车应用、加速卡以及IoT领域展示强性能与灵活性。
最后，鲍敏祺表示下一代“周易”NPU将继承及增强前代优势，并持续优化多个方面，以满足市场需求。他提醒，要考虑未来各种存储介质，使得NPU能够更好地满足当前及未来市场需求。这一切预示着新时代的人工智能技术正悄然来临，为我们的生活带来了新的可能和挑战。
