生物芯片AI的新障碍存储器难题你笑我无理
在边缘计算性能的提升下，存储器设计、类型选择和配置面临着挑战，这也导致不同应用市场需要进行更复杂的权衡。芯片架构正与新市场一起发展，但数据在芯片、设备之间以及系统之间如何移动并不总是很清楚。汽车和AI应用的数据正变得越来越多和复杂，但芯片架构在处理时有时不清楚如何优先处理数据。这让芯片设计人员面临抉择，是选择共用内存降低成本，还是增加不同类型内存提高性能和降低功耗。
所有这些都是以安全为前提，并且不同的市场设计的要求也不一样。比如，汽车中的各种类型的图像传感器（如激光雷达和摄像头）的大量数据需要在本地处理。AI芯片则希望性能能够提升100倍。
解决内存问题有一些方法，其中一种是片上存储器，也就是将存储器分散地集成在运算单元旁，最大程度减少数据搬移，这种方法的目标是通过减少负载和存储的数量来突破内记忆瓶颈，也能降低功耗。
“存算一体（In-memory computing）可能是模拟的、数字的，或两者都有。” Cadence Digital＆Signoff Group 的高级首席产品经理 Dave Pursley 说，“虽然在内记忆中进行计算的情景可能日益增长，但实际发生的情况似乎大不相同。”
SRAM 和 DRAM 仍然是主流
尽管市场出现了新的变化，但片上 SRAM 和 片外 DRAM 仍然占据主导地位。已经有专家预测 DRAM 多年后将“死亡”，但它仍然是最经济且可靠的一种选择。DRAM 具有高密度、高架构简单性、高性能特性，并兼具耐用性及低功耗特点。
DRAM 密度增速正在放缓，但 HBM2 等新架构允许通过堆叠模块而不是使用 DIMM 来垂直增加密度，这种方法还让 DRAM 更靠近处理单元。
另外，SRAM 价格昂贵且密度有限，但其高速性能多年来已被验证。片上 存储器 的挑战是在于采用分布式还是共用的方式，在某些情况下，为保证安全性需要增加冗余。
“所有这些要求都会影响 存储器 的类型及其数量所做出的决定，还涉及到 片上 和 片外 存储器 之间权衡，以及访问每个 存储 器互连之复杂性的考量。” Arm 高级物联网架构师 Ryan Lim 表示。
低功耗 存储 器 是 关键
孕育问题之一就是 功耗，其中 存取 数据 的过程会消耗大量电力。在7nm等较小尺寸制程中进行操作，对线路中的RC延迟非常敏感，这也是产生热量的一个原因，有时候甚至会破坏输入输出信号完整性的必要条件。不过，一些较慢但带宽极高的地方可以节省能源并保持速度与GDDR6相匹配。这一切取决于多方面因素，如设备平均售价以及选定的内部结构配置需求。
对于手持移动设备来说，更重要的是极端低能效率型存在记忆技术，它们既可以快速工作又能消耗极少能量满足手机或平板电脑等产品需求，同时当需执行更多任务时，可以迅速切换至更高效率/更高功率模式。
这种存在记忆技术支持多种封装方式，从而使它们能够与手机处理核心紧凑集成，以满足智能手机轻薄化需求，同时也适用于PCB集成以支持平板电脑或其他消费电子品类设备容纳大量内部记录空间。
毫无疑问，将开发出具有如此能力的小巧记忆装置是一个巨大的挑战。“当我们试图创造出这些功能丰富却高度节能的小巧记录装置时，它们必须支持广泛范围上的速率，而对通常较小规模应用来说这就意味着要提供相当快得离谱速度。” Rambus杰出的院士Steven Woo说。“这往往由几个主要驱动行业推动，因为只有那些拥有庞大用户基础的大型行业才能促进新的技术创新——从历史角度看，最成功的事例之一就是智能手机产业。如果询问任何电话制造商，他们都渴望获得比当前现有的更多卓越表现即便仅仅为了延长电池寿命。在此之外，如果想要利用这样的超级节能装置，那么他们会感到深深感激其他人正在帮助实现这一愿望。”
通常，这些合格但价格略显昂贵的小巧记录装置可能同时运行几种不同的速率，比如一个每秒4.2千兆比特、一部3.2千兆比特等。但速度接近，因此制造商依旧出售这样各色各样的记录空间，因为有些客户寻求以更便宜价格购买稍微差劲一点儿性能单位。而这种合并称作Binning，使得生产中同样质量标准下的许多产品成为合格商品，无论它们是否全力运行，只要符合一定范围标准就行。当一些部分没有达到全速运转，就会触发这样的情形；然而制造商依旧销售这些记忆内容因为有些顾客只想以稍微便宜一些钱买入稍逊一筹单位。一旦被视为合格品，即使只是基本层次的人工智能也有助于确保继续向前发展，而非完全失去其全部潜力的灵活性。此刻，在这个不断演变世界里，我们发现哪怕是不那么强悍的人工智能模型依然对我们的生活至关重要，不管是在医疗领域、教育领域还是娱乐界，每一次尝试都表明人类创意未尽展开可能性——即使最原始形式的人工智慧亦不可或缺。而随着时间推移，我们终于开始理解为什么我们一直追求最高速度与最弱电源消耗——这是因为真实世界中我们所处环境经常充斥着竞争严峻局限资源，而且永远期待找到那份完美平衡点，让我们的生活更加舒适安稳。
关于人工智能机遇
人工智能几乎介入了现代科技中的每一个角落，而其中位于关键位置的地方—-目前最迫切的问题，就是它如何影响未来科技发展？如果你考虑到人们对自主车辆、大规模数据库分析工具甚至虚拟助理整体改善服务质量或者直接改变生活习惯，则自然明白了为什么"数字化转型"现在成了全球企业竞争策略的心脏血液。不幸的是，由于缺乏有效管理系统或者过分关注短期利益而忽视长远规划，所以很多项目无法真正实现预期效果，因而引发了一系列关于具体实施步骤的问题探讨—-特别是在关键组件供应链方面尤其突出，如CPU, GPU, 内部 记录空间 (RAM), ROM, 或者数据库服务器硬件软件结合（DBMS）。
Pursley D , "Memory Challenges for AI", Cadence Blog , [Online]. Available: https://www.cadence.com/content/cadence/en/blog/memory-challenges-for-ai.html.
Woo S , "The Future of Memory and Storage Technology", Rambus Blog , [Online]. Available: https://blog.rambus.com/the-future-of-memory-and-storage-technology/.
Lim R , "The Role of Edge Computing in the Internet of Things", Arm Developer Community , [Online]. Available: https://developer.arm.com/solutions/experience-stories/the-role-of-edge-computing-in-the-internet-of-things.
[图片来源]
图1：各种类型DRAMS特点
[图片来源]
