利好

中科曙光发布面向大模型推理词元加速方案

14:56

针对推理重复计算痛点推出新方案,ParaStor 已支撑十万卡集群,四项细分行业排名居首。

据 Woofun AI 消息,中科曙光透露将发布面向大模型推理的新一代词元加速方案,旨在解决推理过程中的重复计算与数据调度难题。

目前,其 ParaStor 分布式存储系统已应用于国内首个全国产十万卡 AI 超集群曙光 8000登峰),为大规模计算提供数据吞吐及弹性扩展支持。赛迪顾问报告显示,该公司在 AI、教育、具身智能和自动驾驶四个细分领域排名第一。

WOOFUN AI

影响力评估 · 一键速读

该方案直击大模型推理中重复计算的高成本痛点,有望提升国产算力集群的推理效率。结合其在十万卡集群中的落地验证,显示出中科曙光在底层存储与算力调度上的技术闭环能力。多项行业排名第一的评级,进一步巩固了其在国产 AI 基础设施领域的头部地位。
WOOFUN AI 生成 · 仅供参考,非投资建议

评论

回复 @用户
0/800

暂无评论

消息提醒

登录后查看消息
查看全部消息管理订阅