>
正文
Kimi K3降低KV带宽需求但AI网络DA需求不减
2026-07-19 10:20

据 Woofun AI 消息,半导体与AI研究机构 SemiAnalysis 分析指出,尽管 Kimi K3 在网络层采用 KDA 机制,将 KV 缓存传输带宽需求降低多达 10 倍,但这并未导致 AI 网络交换机市场需求萎缩。

Kimi K3 拥有 2.8 万亿参数,每次前向计算需约 1.5TB HBM 带宽。其 WideEP 扩展服务将 896 个专家模型分配至多个 GPU,每层及每次前向计算需进行两次 Token 派发与合并,单次前向计算涉及超 120 次处理流程。相比之下,KV 缓存传输每轮对话仅发生一次,KDA 节省的带宽远低于大规模专家模型引发的额外网络需求。SemiAnalysis 认为,效率提升可能推动上下文长度从 100 万 Token 增至 500 万以上,依据杰文斯悖论,AI 应用规模扩大将进一步增加网络需求。

免责声明:本内容为作者独立观点,不代表平台立场。未经允许不得转载,文中内容仅供参考,不作为实际操作建议,交易风险自担。
标签:
Kimi K3
WideEP
SemiAnalysis
BlockBeats
分享:
back