数字芯片AI的记忆力瓶颈为什么它们成了发展的硬盘
在边缘计算性能提升带来的挑战中，存储器设计、类型选择和配置成为了不同应用市场之间复杂权衡的焦点。随着新市场与芯片架构共同进步，数据在芯片、设备以及系统之间流动的情况并不总是清晰明了。汽车和AI应用中的数据日益增多且复杂，但处理时chip architecture有时候难以确定如何优先处理这些数据。这让芯片设计人员面临抉择：是否选择共享内存以降低成本，或是增加不同类型内存以提高性能和减少功耗。
所有这些都是建立在安全性的前提之上，并且不同的市场对设计要求不尽相同。例如，在车载环境中各种图像传感器（如激光雷达和摄像头）的大量数据需要本地处理，而AI芯片则希望性能能提升100倍。
解决内存问题的一种方法是将存储器分散集成到运算单元旁，这种方法目标是在减少负载和存储数量方面突破内存瓶颈，同时也能降低功耗。“存算一体可能是模拟的、数字的，或两者都有。” Cadence Digital＆Signoff Group高级首席产品经理Dave Pursley说，“虽然进行计算于内存在增长趋势，但实际情况似乎大不相同。”
尽管市场出现了变化，SRAM和DRAM仍然是主流。已经有专家预测多年后DRAM将“死亡”，但它仍然是一种经济实用且可靠的选择。DRAM具有高密度、高架构简单性、高性能以及耐用性与低功耗兼备。
然而，DRAM密度增速正在放缓，但HBM2等新架构允许通过堆叠模块而不是使用DIMM来垂直增加密度，这样的方式还让DRAM更靠近处理单元。此外，SRAM价格昂贵且密度有限，但其高速性能已被验证。在某些情况下，为保证安全性需要增加冗余。
“所有这些要求都会影响存储器类型及数量的选择，还涉及片上与片外之间的权衡，以及访问每个互连复杂性的考量。”Arm高级物联网架构师Ryan Lim表示。
低功耗成为关键
一个关键的问题是功耗，其中包括多种因素，如所选型号及其配置。此外，在7nm或更小尺寸上的数据操作可能会消耗更多能源，因为线路中的RC延迟产生热量，有时还会破坏输入输出信号完整性。不过较慢但带宽高的大容量RAM可以节省能源，并保持速度竞争力，其使用决定因素包括设备平均售价及所选型号。
针对手持移动设备还有极为节能型数控技术，它们支持多种封装方式，使得它们可以与手机处理器堆叠，以满足智能手机轻薄需求，同时也适用于平板电脑等消费类设备容纳更多内部记忆配置需求。
开发这样的极低功率数控技术是一个挑战。“当设计这样的数控时，它们支持广泛范围速度，因此相对于其他类型，他们通常提供相当快速。” Rambus杰出的院士Steven Woo说：“这通常由几个主要应用驱动，所以必须面向一个非常大的行业才能促进新的数控技术。如果我们回顾历史，最成功的是手机行业。当我跟不同的手机制造商谈论他们想要拥有更好的性能与电源效率时，他们希望能够延长电池寿命。而对于那些寻求利用这种技术公司来说，他人帮助实现这一点。”
通常，这些合格品可能在几种不同的速率下运行但速率接近。“这些产品可能每秒4.2千兆比特或3.2千兆比特。”他解释道：“这使得制造商可以生产所有这些并进行所谓‘binning’—即根据不同客户购买同一款产品——有些部件没有全速运行，从而销售给那些只需便宜版本的人。”
如何影响人工智能发展？
人工智能几乎遍布于新科技领域，而其中又占据核心位置的是碱基设施—即最终生成信息单位—作为碱基设施研究的一个重要组成部分，对于确保信息传递过程中稳定性至关重要。
从工程学角度看GDDR看起来就像是其他标准PCB板上的普通DRAMs；你可以把它集成到标准PCB板上，而且用类似的制造工艺制作；HBM则涉及堆栈连接速度较慢，每个HBM堆栈将具有一千个连接，因此需要高密度互联，比起PCB来讲这个工作能力远超出，所以一些公司正在使用内插器因为可以将导线蚀刻得非常接近，就像是直接集成一样，可以获得更多连接。
HBM追求最高效能最佳效率，但是成本要比GDDR更高，更需要工程时间和专业知识。这就是为什么人们喜欢GDDR，因为它既快又容易做，而且价格也不那么贵。但如果你想真的提高信号完整性，那么跑得快就会变得更加困难。
PPA
Power, Performance & Area (P.P.A) 仍然是推动因素之一，无论是在变革还是采用新的技术方面。在SoC设计不断缩小的时候，与之相关的事务越来越重要了。而目前，大约50%以上裸晶圆面积被用于嵌入式固态硬盘（SSD）。因此，我们必须考虑到嵌入式固态硬盘（SSD）的能耗问题。
无论何处，无论何时，都有人意识到了事务管理对于资源利用最有效的一环，即使是在汽车工业中也是如此。在那里，对于电池寿命至关重要，因此电力消耗也同样十分关键。不仅如此，还要确保整个温度范围内保持良好表现，即-40°C至125°C甚至150°C以下环境条件下不会发生泄漏突然增长，也不希望任何损害线性特征。
