芯片集成电路半导体AI发展的硬盘难题
在芯片集成电路半导体区别中，存储器成为阻碍AI发展的难题。边缘计算性能提升对存储器设计、类型选择和配置提出了挑战，这需要在不同应用市场进行复杂的权衡。芯片架构正在与新市场一起发展，但数据在芯片、设备之间以及系统之间移动的方式并不总是很清楚。
汽车和AI应用中的数据正变得越来越多和复杂，但芯片架构在处理时有时不清楚如何优先处理数据。这让芯片设计人员面临抉择，是选择共用内存降低成本，还是增加不同类型内存提高性能和降低功耗。
所有这些都是以安全为前提，并且不同的市场设计的要求也不一样。比如，汽车中的各种类型图像传感器（如激光雷达和摄像头）的大量数据需要在本地处理。AI芯片则希望性能能够提升100倍。
解决内存问题有一些方法，其中一种是片上存储器，也就是将存储器分散地集成在运算单元旁，最大程度减少数据搬移，这种方法的目标是通过减少负载和存储的数量来突破内存瓶颈，也能降低功耗。
“虽然‘做’计算机科学家而不是物理学家可能看起来简单，”Cadence Digital＆Signoff Group高级首席产品经理Dave Pursley说，“但实际上，在每个层次上都需要考虑物理学。”他指出，即使是在理论计算方面，如果没有理解硬件限制，就无法真正实现有效率的人工智能系统。
SRAM和DRAM仍然是主流
尽管市场出现了新的变化，但片上SRAM和片外DRAM仍然占据主导地位。已经有专家预测DRAM多年后将“死亡”，但它仍然是最经济且可靠的选择。DRAM具有高密度、高架构简单性、低延迟、高性能兼具耐用性及低功耗特性。
随着技术进步，HBM2等新架构允许通过堆叠模块而非使用DIMM垂直增加密度，这种方法还让DRAM更靠近处理单元，从而进一步提高效率。
另一方面，SRAM价格昂贵且密度有限，但其高速性能已被验证多年。在某些情况下，为保证安全性需要增加冗余，以此来影响所选取之记忆体类型及其数量，以及决定是否采用分布式或共用的方式进行设计。
“所有这些要求都会影响记忆体之类别与数量选取，以及涉及各类记忆体间连接结构上的权衡。”Arm高级物联网架构师Ryan Lim表示。此外，还存在对于手持移动设备极致节能需求的一系列特殊型号，如针对边缘设备利用电池供电的情况下的极致节能型记忆体，使得现今许多创新技术开始探索如何更好地管理资源以支持人工智能系统增长同时保持能源效率，同时提供更多可能性给用户使用场景。在这个背景下，将会继续观察哪些新的技术可以发挥作用并帮助改善现有的情形，以确保未来的人工智能更加可行并广泛应用于日常生活中，而不仅仅局限于研究室或实验室环境中运行这是一条既充满挑战又充满机遇之旅，它也意味着我们必须不断寻求创新的途径去推动这一领域向前发展，不断超越当前界限，最终实现从人类到数字化世界交流信息的一种全新的方式。
