利好

Marvell推出AI内存解聚架构解决推理带宽瓶颈

2026-08-04 21:17

涵盖SSD控制器、CXL扩展及光互连方案,旨在通过算力与内存解耦提升GPU利用率并降低延迟。

据 Woofun AI 消息,Marvell Technology 近日发布面向 AI 基础设施的新一代内存解决方案系列,包含服务器级 AI 存储、机架级 CXL 内存扩展与资源池化,以及多机柜光互连共享内存方案。该系列旨在应对智能体 AI 推理中日益严峻的内存容量与带宽瓶颈。Marvell 指出,随着 AI 模型规模扩大、上下文窗口增加及 KV Cache 需求上升,传统紧密耦合式算力-内存架构难以提升推理效率。通过实现内存与算力资源解耦,内存可独立扩展,从而提高 GPU 利用率并降低数据传输延迟。

此次推出的产品包括 Bravera SC6 PCIe 6.0 SSD 控制器,专为 AI 推理存储设计,支持多家厂商 NAND 芯片,预计 2026 年第四季度提供样片,帮助云服务商将更多 KV Cache 存入高性能 SSD。

此外,基于 CXL 技术的 Structera X 内存扩展方案支持机架级内存资源灵活共享与分配,降低基础设施建造成本;Photonic Fabric 光互连方案则构建多机柜共享内存架构,支持最多 32TB 热数据 KV Cache 转移。Marvell 称,在现有数据中心空间与电力限制下,光互连方案可使 token 传输效率提升 2 到 3 倍,支撑更大规模模型及长上下文应用。Marvell 高管 Will Chu 表示,AI 基础设施正从单一服务器架构向算力、内存与连接协同的系统架构转变,内存资源的独立扩展将成为提升资源利用率与 token 处理效率的关键。随着 AI 智能体及大型模型推理需求增长,内存容量、带宽及数据传输效率正成为 AI 基础设施竞争的新焦点。

WOOFUN AI

影响力评估 · 一键速读

Marvell 此举标志着 AI 基础设施竞争焦点从单纯算力向内存架构延伸。通过 CXL 与光互连技术实现内存解耦,有望缓解当前大模型推理中的内存墙问题,提升集群整体 Token 吞吐量。若样片如期交付,或加速数据中心从传统耦合架构向模块化、高带宽内存池化架构演进,利好相关硬件供应链。
WOOFUN AI 生成 · 仅供参考,非投资建议

评论

回复 @用户
0/800

暂无评论

消息提醒

登录后查看消息
查看全部消息管理订阅