日活 1 亿仅耗 0.1GW?Meta Muse 推理层吞噬 3-4GW
核心要点
拆解Meta Muse算力账本,沙箱层硬件成本约28亿美元,功耗仅0.1GW;推理层因高频调用需3至4GW电力,成为核心瓶颈。
据 Woofun AI 消息, 在部署 智能体时面临算力瓶颈的结构性转移,核心矛盾并非源于传统的 CPU 资源短缺,而是集中在推理层的极端能耗需求。
这一现象揭示了 AI 基础设施中常被忽视的能效失衡:尽管前端沙箱层看似庞大,其实际功耗仅占 0.1GW,而后台推理层却可能吞噬 3 至 4GW 的电力。这种巨大的能耗落差,使得推理层成为限制 Muse 智能体实际应用的关键瓶颈,也重新定义了巨头在 AI 时代的基建投资逻辑。
在沙箱层基础设施的估算中,逻辑远比直觉复杂。每个 Muse 用户被分配 2 个 vCPU、约 8GB 内存以及 100GB 持久逻辑存储,但这并不意味着 1 亿日活用户需要 1 亿台同时运行的虚拟机。假设平均每位用户每天活跃工作 2 小时,则同时活跃的 VM 数量约为 800 万台(1 亿用户 × 2 小时 / 24 小时)。考虑到使用量的突发性和清醒时段的集中效应,若设定峰值与均值之比为 2.5 倍,则峰值活跃 VM 达到 2000 万台。再加上约 20% 的容量冗余,Meta 需常备约 2500 万台在线 VM,这意味着基础设施需支撑日活用户的 25% 同时在线。
更关键的变量在于虚拟 CPU 与物理核心的超售效率。 最近发布的 基础设施提供了极具参考价值的基准:其在约 160 个节点上运行 3 万个物理 CPU 核心和 250TB DRAM,支持超过 38 万个沙箱并发。具体来看,每个节点承载约 800 个微型 VM,拥有约 188 个物理核心,折算下来每个存活 VM 仅消耗 0.23 个物理核心(188 个物理核心 / 800 个微型 VM)。
尽管 DeepSeek 展现了极高的效率,但 Muse 的环境更为复杂。保守估计,Muse 每个存活 VM 消耗 0.3 至 0.75 个物理核心,取基础情形为 0.5 个物理核心/VM。据此推算,2500 万台存活 VM 需要 1250 万个物理 CPU 核心(2500 万 × 0.5)。若采用 256 核 CPU,则需约 5 万颗(1250 万 / 256);若采用 192 核 CPU,则需 6.5 万颗。按当前公开价格计算,这部分 CPU 采购成本约为 8 亿美元。在内存方面,尽管分配了 8GB,但观测显示实际使用量仅为 3GB。因此,2500 万台 VM 对应的物理 DRAM 需求为 75PB(2500 万 × 3GB),合理区间在 75 至 100PB。
Woofun AI 整理数据显示,这部分 DRAM 成本约为 20 亿美元。综合来看,沙箱层的 CPU 采购成本约为 8 亿美元,DRAM 成本约为 20 亿美元,且整个沙箱/VM 层在 1 亿日活规模下的功耗仅为 0.1GW。
然而,真正的能耗巨兽隐藏在推理层。Meta 将模型推理任务外包给其外部推理基础设施,这种架构使得本地 PC 仅负责工具执行和状态存储,而核心计算发生在云端。在 2026 年发布的研究为能耗基准提供了关键依据:优化后的前沿规模推理,每次普通查询的能耗中位数约为 0.31Wh。但智能体工作负载远非普通查询可比。一次长推理查询的 token 数量约为普通查询的 15 倍,其能耗约为普通查询的 13 倍,即每次长推理查询约消耗 4Wh。微软研究院特别指出,推理和智能体工作负载的能耗显著高于平均水平。鉴于 Muse 智能体的高频交互特性,我们将每次重度推理等效事件的能耗敏感度区间设定为 5 至 10Wh。

评论
暂无评论