中国半导体最新消息面对2020年15亿个AI终端市场需求难道不是定制AI芯片成为了趋势吗
随着AI算法的逐步成熟以及芯片算力的提升，历经几年的热潮之后，AI技术只有落地应用才能获得进一步的发展。不过，算法需求与芯片算力不匹配的需求成为了AI落地的一大障碍，AI软硬一体化成为关键。但在软硬一体化提高效率的同时，如何满足多样化的需求也非常关键，定制化成为了趋势。
AI终端市场的多样化需求
这一轮AI热潮，不仅让越来越多的人认识和了解了AI技术，AI也正在成为每台智能设备日常工作的一部分。事实证明，深度神经网络(DNN)非常有用，但是AI的进一步发展和落地仍有很多挑战。比如，如何使得现有解决方案跟上发展趋势？如何扩展解决方案？如何以成熟的工具链缩短TTM（Time to Market）和降低成本？
面对这些问题，我们需要整个产业链协作共同满足市场要求。根据市场研究机构报告显示到2022年全球具有计算机视觉/机器视觉相继规模将超过15亿个，这包括智能手机、安防、消费电子、汽车图像传感器、工业等。
这意味着定制化加速器可以更好地满足不同需求，但同时间边缘端落地还面临挑战。CEVA营销副总裁Moshe Sheier认为，在边缘中间件处理的问题就是数据量太大且运算复杂，而芯片带宽是根本问题。
CEVA营销副总裁Moshe Sheier
破解带宽难题？
Sheier近日接受采访时表示，当做落地方项目时受困于硬件不足的问题会牺牲特性，所以希望提出更多具体要求，让设计能够更好满足需求。而只有效率提高了才能更好的实现应用。
提到效率，我们不能避开的问题就是是否专用还是通用的芯片；通用的能适应演进但算力不及专用。在Sheier看来，加速器一定是一个趋势，同时视频DSP在中间件中重要，因为还有不确定性。当运行多神经网络模型就涉及CV处理时CPU可能遇瓶颈。这时候我们的XM DSP针对所有流行神经网络进行优化，可以更好满意多神经网络。
基于流行特征理解，对NeuPro-S推出了第二代面向边缘设备架构，该系列包括NPS1000、NPS2000和NPS4000，每周期分别配置1000-4000个8位MAC预配置处理器。NPS4000最高单核CNN性能可达12.5 TOPS并完全扩展至100 TOPS。
官方说，与第一代相比性能平均提升50%，内存带宽降低40%功耗30%。
这种提升主要来自硬件还是软件优化？Sheier表示主要来自硬件，因为增加离线权重压缩与硬件解压缩。
之所以这么做，是因为卷积后图片小但数据量巨大，因此带宽为瓶颈。而采用的多重权重压缩减少对带宽依赖。
NeuPro-S还支持L2内存系统，即加入L2支持用户设置大小尽量放在缓存减少外部SDRAM使用降低传输成本。
Sheier指出，加L2并不复杂，但是在CNDD框架中加入支持最重要工作是进行带宽优化这样才达到理论利用率。他强调，最关注的是乘法利用率借助DSP经验设计引擎理论80%-90%实际则低于但NeuPro-S增大的带宽减少等待提高利用率。
最终经过设计优化NeuPro-S显著提高系统感知性能。此外支持内存系统以减少高成本传输，并支持多重选项异构可扩展性提升符合API已授权予车规验证客户领域领导者。
定制处理器成为趋势
值得注意的是通过统一架构实现各种组合，如CEVA-XM6视觉DSP、Neu-Pro内核与定制引擎组合。这意义在于通过不同的组合应付各需同时通过统一平台简易开发者部署难度据悉CDNNCaffe/TensorFlow/ONNX；另外，还能减开发者软件成本“有些网络现在还是演进过程中CPU要控制其他工作所以要运行加速不支持或新特添加运单元不足。”表示。“我们的方案既有CEVA视觉 DSP级连网，则主控或处理一些加速不能処理再客户硬加速度一起，更好服务计算。”
他强调简单而复杂上层提供开放CDNN框架允许客户驱动集成此后CDNN全面任务分配偏向上层基于经验增强网络层提升CM6/XM6/定义神经加工利用最大限度任务分配给由CDNN完成大量工作及优先由CDNN完成全部工作及优先由CDNN完成全部工
目前已经提供Invite API将2019底普遍授权许可给领先客户进行验证已授权予汽车消费产品相机应用领域领先公司展示其开放心态让开发者集成了容易并降价对于进一步发展意义重大正如Arm月推自定义指令功能允许用户加入自定义指令功能
