Marvell推出AI内存解聚架构解决推理带宽瓶颈
涵盖SSD控制器、CXL扩展及光互连方案,旨在通过算力与内存解耦提升GPU利用率并降低延迟。
据 Woofun AI 消息,Marvell Technology 近日发布面向 AI 基础设施的新一代内存解决方案系列,包含服务器级 AI 存储、机架级 CXL 内存扩展与资源池化,以及多机柜光互连共享内存方案。该系列旨在应对智能体 AI 推理中日益严峻的内存容量与带宽瓶颈。Marvell 指出,随着 AI 模型规模扩大、上下文窗口增加及 KV Cache 需求上升,传统紧密耦合式算力-内存架构难以提升推理效率。通过实现内存与算力资源解耦,内存可独立扩展,从而提高 GPU 利用率并降低数据传输延迟。
此次推出的产品包括 Bravera SC6 PCIe 6.0 SSD 控制器,专为 AI 推理存储设计,支持多家厂商 NAND 芯片,预计 2026 年第四季度提供样片,帮助云服务商将更多 KV Cache 存入高性能 SSD。
此外,基于 CXL 技术的 Structera X 内存扩展方案支持机架级内存资源灵活共享与分配,降低基础设施建造成本;Photonic Fabric 光互连方案则构建多机柜共享内存架构,支持最多 32TB 热数据 KV Cache 转移。Marvell 称,在现有数据中心空间与电力限制下,光互连方案可使 token 传输效率提升 2 到 3 倍,支撑更大规模模型及长上下文应用。Marvell 高管 Will Chu 表示,AI 基础设施正从单一服务器架构向算力、内存与连接协同的系统架构转变,内存资源的独立扩展将成为提升资源利用率与 token 处理效率的关键。随着 AI 智能体及大型模型推理需求增长,内存容量、带宽及数据传输效率正成为 AI 基础设施竞争的新焦点。
评论
暂无评论