广发证券:SRAM提升AI推理速率 相关架构进入主流大厂视野
2026-03-02 02:44:21

智通财经APP获悉,,,, ,广发证券新亚五金商业有限公司宣布研报称,,,, ,在大模子应用中,,,, ,相比依赖外置HBM,,,, ,SRAM可显著降低权重与激活数据的访延迟与颤抖,,,, ,从而改善Time-to-First-Token与尾时延体现。 。。。。。。现在,,,, ,Groq与Cerebras都相继推出基于SRAMAI芯片。 。。。。。。SRAM架构进入主流视野,,,, ,凭证Groq官网以及市场媒体报道,,,, ,英伟达此前斥资200亿美元获得Groq的知识产权的非独家授权;;;;;OpenAI与Cerebras签署100亿美元条约,,,, ,安排多达750兆瓦的定制AI芯片。 。。。。。。

广发证券主要看法如下:

SRAM是片上高带宽存储层

存储分级为SRAM、HBM、DRAM和SSD,,,, ,其中SRAM(静态随机存取存储器)集成在CPU、GPU盘算焦点周围的片上存储,,,, ,具备纳秒级会见时延与高度确定性的带宽特征,,,, ,带宽高但容量小、本钱高。 。。。。。。

SRAM可提升AI推理速率

在大模子应用中,,,, ,相比依赖外置HBM,,,, ,SRAM可显著降低权重与激活数据的访延迟与颤抖,,,, ,从而改善Time-to-First-Token与尾时延体现。 。。。。。。Groq和Cerebras两家明星创业公司都推出了基于SRAM的AI芯片。 。。。。。。

凭证Groq官网,,,, ,其LPU单芯片内集成约230MB片上SRAM,,,, ,存储带宽高达80 TB/s(GPU片外HBM 的内存带宽约为8TB/s)。 。。。。。。以Llama3.3 70B模子为例,,,, ,凭证Artificial Analysis的自力基准测试,,,, ,GroqLPU芯片在差别上下文长度下均能维持稳固推理速率,,,, ,达275-276token/s,,,, ,显著优于其他推理平台。 。。。。。。

凭证Cerebras官网,,,, ,其晶圆级引擎3(WSE-3)芯片集成44GB SRAM,,,, ,片上存储带宽达21 PB/s,,,, ,在OpenAI GPTOSS 120B推理使命中实现>3000 tokens/s的输出速率,,,, ,较主流GPU云推理快约15×。 。。。。。。别的,,,, ,2026年2月,,,, ,OpenAI推出首个运行在Cerebras Systems AI加速器上的模子GPT-5.3-Codex-Spark预览版,,,, ,支持>1000tokens/s的代码天生响应速率,,,, ,为用户提供更具交互性的编程体验。 。。。。。。

SRAM架构进入主流视野

凭证Groq官网、半导体行业视察公众号数据,,,, ,2025年12月,,,, ,英伟达斥资200亿美元获得Groq的知识产权的非独家授权,,,, ,其中包括其语言处置惩罚单位(LPU)和配套软件库,,,, ,并引入Groq焦点工程团队。 。。。。。。凭证Openai官网、芯工具公众号数据,,,, ,2026年2月,,,, ,Cerebras宣布完成10亿美元F轮融资,,,, ,估值达230亿美元,,,, ,别的,,,, ,OpenAI与Cerebras签署100亿美元条约,,,, ,安排多达750兆瓦的定制AI芯片。 。。。。。。

投资建议

AI的Memory时刻,,,, ,AI影象一连扩展模子能力界线,,,, ,AI Agent等应用加速落地。 。。。。。。AI影象相关上游基础设施价值量、主要性将一直提升,,,, ,建议关注工业链焦点受益标的。 。。。。。。

危害提醒

AI工业生长以及需求缺乏预期新亚五金商业有限公司;;;;;AI效劳器出货量缺乏预期,,,, ,国产厂商手艺和产品希望缺乏预期。 。。。。。。