智能无处不在安谋科技周易NPU开启端侧AI新时代芯片引领人物生活的智慧革命
在科技的光芒照耀下,一个巨大的模型从云端的殿堂飞跃到了终端的舞台。这一历史性的转变,不仅赋予了数据处理以迅捷之翼,更将智能体验推向前所未有的高度。终端上的大模型以灵动姿态,即时捕捉并回应着每一个细微需求,将AI触角延伸至世界每个角落。
近日,在EEVIA主办的第12届中国硬科技产业链创新趋势峰会暨百家媒体论坛上,安谋科技产品总监鲍敏祺发表了精彩主题演讲《端侧AI应用芯机遇,NPU加速终端算力升级》。他深入剖析了端侧AI发展广阔前景,并详细介绍了安谋科技自研NPU最新进展。
AIGC大模型带来的算力提升是端侧AI迎来的最大机遇。在国际和国内实际部署的大型企业中,大型设备如OPPO、vivo、小米、荣耀和华为等,都在积极推动端侧AI发展。他们不仅自研适合部署的大模型,还将其与具体业务场景紧密结合。芯片厂商也达成了共识认为,神经网络处理单元(NPU)将是未来消费类电子产品发展重点。
尽管有成本、功耗和生态系统三重挑战,但通过微架构优化、能效提升以及并行处理能力增强,“周易”NPU已经成为解决这些问题的关键技术之一。在汽车应用、中高性能计算卡以及人工智能物联网领域,“周易”NPU显示出其强大的性能和灵活性。
鲍敏祺特别强调“周易”NPU对异构计算支持,并指出无论从能效还是整个SoC面积角度来看,异构计算是最佳选择。他解释道,无论是在车载信息娱乐系统还是ADAS应用中,对算力的需求不同,而“周易”NPU能够根据需求裁剪出所需的算力范围,从20到320TOPS不等。
鲍敏祺最后表示,将继续围绕精度、带宽、调度管理、算子支持等多个方面进行持续优化,使得“周易”NPU能够更好地满足当前及未来市场需求,同时考虑适配各种存储介质,以应对未来的技术挑战。