后方格智能化观察网
首页 > 市场 > 智能无处不在安谋科技周易NPU开启端侧AI新时代引领手机处理器排名图片

智能无处不在安谋科技周易NPU开启端侧AI新时代引领手机处理器排名图片

在科技的光辉照耀下,大模型从云端的殿堂轻盈降临到终端的舞台。这一历史性的跨越,不仅赋予了数据处理以迅捷之翼,更将智能体验推向了前所未有的高度。终端上的大模型以灵动姿态,即时捕捉并回应着每一个细微需求,将AI触角延伸至世界的每一个角落。

近日,在EEVIA主办的第12届中国硬科技产业链创新趋势峰会暨百家媒体论坛上,安谋科技产品总监鲍敏祺发表了主题演讲《端侧AI应用芯机遇,NPU加速终端算力升级》。他深入剖析了端侧AI发展广阔前景,并详细介绍了安谋科技自研NPU最新进展。

AIGC大模型带来的算力提升是端侧AI迎来的最大机遇。在近期头部大厂发布中,都可以看出,端侧AI应用已得到了业界的一致认可。目前国际和国内实际部署的大模型体量主要集中在100亿参数以下,这种限制源于设备内存带宽范围通常在50-100GB/s之间。为了满足用户对应用实时性的需求,10-30亿参数的大模型最适合现有带宽条件下部署,它们能够保持高效性能同时提供快速响应和高质量服务。

头部终端厂商如OPPO、vivo、小米、荣耀和华为等,都在积极推动端侧AI发展。不仅他们自研适合端侧部署的大模型,还将其与具体业务场景紧密结合。芯片厂商达成了共识认为AI NPU(神经网络处理单元)将是未来消费类电子产品发展重点。NPU通过专门优化硬件架构,可大幅提升设备的AI计算能力,同时降低功耗。

尽管如此,鲍敏祺强调两者应该实现互补才能产生最大的收益。此外,他指出无论是从能效还是整个SoC(系统级芯片)的面积角度来看,异构计算都是最佳选择。他解释道,无论是在汽车应用、AI加速卡还是AIoT场景中,“周易”NPU都展示出了其强大的性能和灵活性,并且已经累计出货超过40万片,并成功定点应用于多款主力车型中。在复杂数据环境中保持高性能和灵活性,使它成为理想选择。

最后,他表示下一代周易“NPU”将继承并显著增强前代产品特点及优势,并围绕精度、带宽、调度管理、算子支持等方面进行持续优化,以满足当前及未来市场需求。

标签:

猜你喜欢

安卓市场下载app 智能生活系统人...
什么是智能生活系统? 在这个快速变化的时代,人们对生活品质的追求越来越高。随着科技的飞速发展,尤其是人工智能和物联网技术的进步,出现了一个全新的概念——智...
今日股市 文华财经我来告...
在这个充满不确定性的时代,如何让你的钱包更加满意已经成为很多人的头等大事。文华财经,就像一盏明灯,指引着迷失方向的你找到正确的投资路径。 首先,你需要了解...
安智市场app下载安装 个性化内容在个...
引言 在信息爆炸的今天,个人书面报告不仅是工作中不可或缺的一部分,也是展示个人能力和专业素养的重要途径。一个优秀的个人书面报告,不仅要具有逻辑性和说服力,...
市场调研的方法有哪些 科研动态南京财...
引言 在激烈的高等教育竞争中,高校科研实力成为了衡量一个学校综合实力的重要指标。作为中国东部经济发达地区的一所著名财经类高校,南京财经大学始终坚持以经济学...

强力推荐