外媒最新报道指出，AI半导体领域传出架构剧变信号，以高速SRAM设计闻名、近期遭英伟达实质性收购的芯片公司Groq正评估在下一代芯片中引入3D堆叠DRAM封装技术，试图摆脱传统SRAM架构的容量瓶颈。
目前，AI芯片多采2D封装，Groq计划导入3D封装，将多个半导体裸片垂直堆叠，其方案名为3DS，核心是利用TSV（硅通孔）技术在DRAM芯片内打穿数千微孔垂直互连，犹如为存储器建起摩天大楼，在单位面积内提供超高显存密度。
与英伟达高端显卡常用的HBM不同，两者虽均采TSV堆叠，但HBM追求极致数据交换速率，3DS则在保持现有DRAM标准接口协议的前提下，将重心放在存储容量扩张。对于必须载入海量参数的AI推理任务，此举是更务实的降本增效方案。
长期以来，Groq的LPU架构因极高推理速度备受瞩目，但依赖的SRAM容量极小，单芯片面对千亿级参数模型时捉襟见肘。
DRAM虽然原生读写速度略逊于SRAM，但大容量特性在复杂模型部署中更具优势。通过3D堆叠，Groq试图在维持速度优势同时解决“存不下”痛点，为超大型AI模型推理铺路。
