广发证券：SRAM提升AI推理速度 相关架构进入主流大厂视野

广发证券发布研报称，在大模型应用中，相比依赖外置HBM，SRAM可显著降低权重与激活数据的访 延迟与抖动，从而改善Time-to-First-Token与尾时延表现。目前，Groq与Cerebras都相继推出基于 SRAMAI芯片。SRAM架构进入主流视野，根据Groq官网以及市场媒体报道，英伟达此前斥资200亿美 元获得Groq的知识产权的非独家授权；OpenAI与Cerebras签署100亿美元合同，部署多达750兆瓦的定制 AI芯片。 广发证券主要观点如下： SRAM是片上高带宽存储层 存储分级为SRAM、HBM、DRAM和SSD，其中SRAM(静态随机存取存储器)集成在CPU、GPU计算核 心附近的片上存储，具备纳秒级访问时延与高度确定性的带宽特性，带宽高但容量小、成本高。 SRAM可提升AI推理速度 根据Cerebras官网，其晶圆级引擎3(WSE-3)芯片集成44GB SRAM，片上存储带宽达21PB/s，在OpenAI GPTOSS120B推理任务中实现>3000tokens/s的输出速度，较主流GPU云推理快约15×。此外，2026年2 月，OpenAI推出首个运行在Cerebras Syst ...