SOCAMM2，新贵？

SOCAMM 是由美光科技与英伟达联合开发的一种内存标准。与远离主机 CPU（中央处理器）垂 直排列的 RDIMM（寄存器双列直插式内存模块）不同，SOCAMM 平铺（水平）于主机 CPU 附 近，并采用堆叠式 LPDDR（低功耗双倍数据速率）内存设计。由于模块的位置和排列方式， SOCAMM 内存为超出 HBM（高带宽内存）容量的应用提供了高带宽解决方案。一个典型的例子 是键值缓存（KV 缓存），它将先前查询的结果保存下来，从而减少新查询运行整个模型的需要， 因为新查询可以利用先前生成的信息。 由于采用了SOCAMM模块化设计，这些模块可以更换和/或升级，从而满足了快速发展的AI模型 创 新 所 需 的 可 扩 展 性 。 此 外 ， 水 平 方 向 的 设 计 有 利 于 散 热 。 散 热 板 可 以 延 伸 ， 同 时 为 CPU 和 SOCAMM模块散热，这既能提升性能，又能降低散热系统的复杂性。 第一代SOCAMM内存模块在系统数据平面（内存和存储）层次结构中引入了一个新的层级，以满 足AI服务器对更高容量和更高带宽的需求。SOCAMM于2025年推出时，是美光科技的专有解决方 案。不到一年，SO ...