AI的智能之路被存储器挡了门2022年芯片行情为什么这块硬盘成了发展的硬障碍
在芯片行情的2022年，存储器问题成为了阻碍AI发展的难题。边缘计算性能的提升对存储器设计提出了更高要求，各种类型和配置都需要复杂的权衡。在不同的应用市场中，数据如何在芯片、设备以及系统之间移动并不总是清晰。
汽车和AI应用中的数据越来越多且复杂，但芯片架构在处理时有时不知道如何优先处理数据。这让芯片设计人员面临选择：是否要采用共用内存以降低成本，或是增加不同类型内存以提高性能和减少功耗。所有这些都是基于安全前提，并且不同的市场有不同的设计要求。
解决内存问题的一种方法是将存储器集成到运算单元旁，即“片上存储器”。这种方法目标是在减少负载和存储数量方面突破内存瓶颈，同时也能降低功耗。“在内存在进行计算”可能是一个日益增长的趋势，但实际情况似乎大不相同。”Cadence Digital＆Signoff Group高级首席产品经理Dave Pursley说。
尽管新技术出现了，但SRAM和DRAM仍然是主流。专家预测DRAM将“死亡”，但它仍然是最经济可靠的选择。RAM具有高密度、简单架构、低延迟、高性能并兼具耐用性与低功耗特点。
随着7nm等新一代工艺技术的推广，在同样面积下进行数据操作可能会消耗更多功率，这导致热量产生，有时候还会破坏输入输出信号完整性。不过较慢但带宽高的大型外部数据可以节省能源，而高速GDDR6则可以提供类似的速度。此决定涉及多个因素，如设备平均售价以及选取哪种记忆体类型。
针对手持移动设备而言，还有极低功耗记忆体，它们能够提升电池供电设备效率并加快数据速率。在手机或平板电脑中，它们能快速切换到更高性能/更高功率模式，以满足用户需求。而这些记忆体支持多种封装方式，使它们既可堆叠于手机处理器之上，也可集成于PCB支持平板电脑等消费类设备大量容量记忆配置所需。
开发这些极低功耗记忆体是一项挑战，因为它们必须支持广泛范围的事务速率，而通常这意味着非常接近甚至超过了传统非易失性半导体（NVM）或闪烁式读写（SWM）那样快速。当某些部件没有全速运行时，这些合格品就被制造商出售给那些只需要以便宜价格购买性能较差记录卡的人。此过程称为“binning”。
对于人工智能来说，极大的速度与极小限度得力量一直被追求，不过这并不总是有效，因为空间有限。但这一现象解释了为什么训练AI所需的大型中心相比用于终端推理的小型化AI芯片要大得多。而另一种方法就是通过设计减少向外部回路发送信息，从而提高吞吐量或者限制从外部获取信息流动距离。
无论何种情况，都很明显，对于工程师来说，使用GDDR或HBM作为竞争策略都是关键。“从工程生产角度看，GDDR看起来像其他类型DRAMS一样，”Rambus杰出的院士Steven Woo说，“你可以把它集成到标准PCB板上，用类似制造工艺。你还能获得更多连接。”HBM则涉及堆叠模块，以及通过插入物（interposers）来实现互连，每个HBM堆栈都将拥有1000个这样的连接，因此需要高度密集化互连，这远远超出标准PCB能力范围。这就是为什么一些公司正在使用插入物，因为这样做可以蚀刻线路非常接近，就像是在晶圆表面一样，可以获得更多连接。”
然而,HBM追求最高性能最佳效率，但成本更高，更需要工程时间与技术投入。而使用GDDR, DRAM 和处理器之间互联就没那么复杂但运行速度却要快很多，这影响到了信号完整性图1：各种类型DRAM特点。图片来源：Rambus
PPA —— 功力、执行力与实地（Power, Performance & Area），依旧成为驱动因素关键，但是其重要程度取决于应用场景。如果是一个携带式应用，那么电源消耗尤为重要。一部分静态，一部分动态，一部分泄漏；如果用于无线通信，如果有大量计算，那么动态消耗尤为重要；如果是个穿戴式应用，那么静态泄漏更加重要浅睡眠功能使得设计者能够大幅减少泄漏，当工作状态下的组件进入源偏置模式以减少泄漏，同时保持工作状态下的组件即时访问，则不会工作。
深度睡眠状态下，则通过电源管理来保留Vdd并最小化泄漏，以确保长时间保存期间不丢失信息。如果不再需要保留该信息，则关闭模式进一步降低泄漏。
对于汽车而言，与电源效率相关的一切至关重要：“在电动汽车中，寿命非常宝贵，因此每一次充放电都会受到重视。”西门子Mentor知识产权部门总经理Farzad Zarrinfar表示，“人们希望从-40°C一直到125°C都保持线性特征，即使温度达到150°C以上也不想看到突然增大的泄漏，并希望尽可能保持线性的行为。”
无论何种应用领域，其第一位考虑因素始终是多少——我们看到随着SoC向微观结构演进”。他继续说，“现在，我们看到超过50% 的裸晶圆面积由内部资源占据，所以人们必须注意内部资源消耗。”
图2: 1999 - 2023年平均晶圆面积
