由于还没有查到更多资料，我们也只能猜测谷歌针对TPU-显存延迟的解决方案： 1、TPU 保留极小规模的 SRAM 作为"快速缓存"，在远端进行池化， 大规模DRAM池通过高速互联 接入； 2、软件层的Prefetching，这是比较常用的技术了，不多介绍了； 为什么这个方案在逻辑上是"靠谱"的？从宏观趋势看，这种解耦是解决存储墙的一条出路： 光进内存 今天讨论最多的，是光进内存，这个概念很多人应该都是第一次听。 简单来说就是由于HBM的产能受限，谷歌在尝试移除HBM，在独立设一个DRAM内存的机柜，通过 池化技术动态分配内存。下面是国泰海通对这个技术拆解： 这个方案的优势显而易见：释放TPU CoWoS物理空间与产能限制，增加单颗TPU芯片配比DRAM的 灵活性，配比可倍增（192GB-512GB-1TB）。将HBM良率损失的成本 转移至 OCS+CXL新增的成 本，并提升DRAM颗粒的全球供给上限。 这本质上是在挑战半导体行业几十年来奉为圭臬的" 近存计算 "原则，如果延迟过大，会导致内存 墙，计算单元闲置等数据。 燃机 先说下GEV的财报情况，燃气轮机板块新签订 41 台重型机组订单（其中包含 15 台 ...