利好
DeepSeek Kimi 训练中大量蒸馏 Astra
11:42
据 Woofun AI 消息,人工智能公司 于 10 月 17 日更新的 V4.1-Flash-1017 版本,以及月之暗面新发布的 K3.1 Pro,均在训练过程中大量利用 OpenAI GPT-6 Astra 的输出进行蒸馏。 的 180 项真实网页任务测试显示,DeepSeek 新版得分从旧版 70.9 提高至 75.0,接近 Astra 的 77.9 分。每题模型调用成本为 0.22 美元,而 Astra 为 10.77 美元,相差近 49 倍。此前 是国内 AI 公司蒸馏的主要目标,Anthropic 近两个月收紧防护,提取模型推理过程的难度增加,国内实验室转而关注 Astra。DeepSeek 创始人梁文锋原本不愿在 V4 研发中依赖蒸馏,但看到智谱 等国内竞争对手借助蒸馏取得进展后,向竞争压力妥协。
WOOFUN AI
影响力评估 · 一键速读
国内头部模型厂商在 Anthropic 收紧防护后,迅速转向利用 OpenAI GPT-6 Astra 进行模型蒸馏。DeepSeek 通过该策略在浏览器操作任务上实现了显著的性能提升,同时大幅降低了单题调用成本。这一动向表明,面对激烈的国内竞争,利用高成本开源模型进行低成本蒸馏已成为提升模型能力的关键路径之一。
WOOFUN AI 生成 · 仅供参考,非投资建议

评论
暂无评论