利好
智谱新基座参数达 3.5 万亿,规模现款 4.7 倍
15:21
据 Woofun AI 消息,投资社区流传的专家访谈纪要显示,下一代基座模型参数规模并非此前传闻的 1.6 万亿,而是 2.5 万亿至 3.5 万亿。智谱今年 8 月发布的 仍沿用上一代基座,总参数约 7440 亿,若新消息属实,新基座规模约为现款的 3.4 至 4.7 倍。纪要指出训练过程并不顺利,智谱采用了更激进的模型架构,预训练期间一度出现 Loss 不降,即持续投入算力但训练指标无法继续改善。受访者认为问题最近应已解决,预计很快完成训练,并预测新模型能达到 级别的旗舰水平。纪要另称,新模型从架构设计阶段就把推理速度和成本作为硬约束,目标是发布首日即可大规模提供服务。
同时,已有多家云厂商洽谈收入分成,以应对大模型发得出、供不上的问题。
WOOFUN AI
影响力评估 · 一键速读
参数规模激增至 3.5 万亿且目标对标顶级旗舰,显示智谱在技术路线上采取激进策略。训练曾遇 Loss 停滞但预计近期解决,若如期发布将显著改变国产大模型算力与性能格局。云厂商洽谈分成模式可能缓解算力供给瓶颈,加速模型商业化落地。
WOOFUN AI 生成 · 仅供参考,非投资建议

评论
暂无评论