美光发布报告称,自主智能体 AI 正在从底层重构硬件研发路线,这一变革将传导至数据中心全产业链上下游。多年来,谈及 AI 基础设施,行业讨论始终围绕 GPU 展开,而这一现状正在快速改变。在自主智能体系统中,GPU 依旧承担大语言模型推理的重度运算工作,但模型外围一整套全新的计算层同步运转,这类“模型外围配套运算”天然具备分支多、状态持续留存、单请求多串行步骤的特征,更适配 CPU 而非 GPU。随着自主智能体算力规模扩张,单块 GPU 配套所需的 CPU 核心与线程数量同步暴涨,CPU 与 GPU 配比大幅调整,CPU 整体需求直接提升 2 至 4 倍。此外,每一个在线运行的智能体实例,都需要占用内存承载运行状态与键值上下文缓存、工具输出与任务队列、容器/沙箱运行内存、向量与索引数据、操作系统与运行时基础开销等内容,内存需求乘数效应十分明显。这一变革将对内存厂商、CPU 厂商和基础设施架构师产生深远影响。
美光:自主智能体 AI 重塑 CPU 与内存基础设施
来源:爱集微
#美光#
#AI#
#硬件研发#
THE END
*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创