利好
Cerebras 发布 CS-4 加速器,推理速度达 GPU 30 倍
11:46
CS-4算力达750PFLOPS,支持50万亿参数模型,Q3起出货。
据 Woofun AI 消息,Cerebras 推出新一代 AI 加速器 CS-4,该设备搭载三颗 WSE-3Turbo 晶圆级引擎,AI 算力达到 750PFLOPS,内存带宽为 129.6PB/s。
在 GPT-OSS-120B 测试中,CS-4 每用户每秒生成 Token 数超过 4400 个,推理速度最高可达 GPU 方案的 30 倍,每瓦吞吐量为上一代 CS-3 的 10 倍,并支持超 50 万亿参数模型。CS-4 预计于今年第三季度开始出货。
WOOFUN AI
影响力评估 · 一键速读
CS-4 在推理速度与能效比上的显著优势,可能加速大型语言模型在边缘或专用硬件上的部署进程。其高达 129.6PB/s 的内存带宽解决了大模型推理中的主要瓶颈,对传统 GPU 集群构成直接竞争。若 Q3 如期出货,或推动 AI 基础设施向更高能效比方向演进。
WOOFUN AI 生成 · 仅供参考,非投资建议
评论
暂无评论