利好
腾讯混元开放 Hy4 权重支持百万 Token
14:12
据 Woofun AI 消息,混元团队开放原生多模态旗舰模型 Hy4 的模型权重。该模型采用混合专家架构,总参数量为 7700 亿,每个 Token 激活 490 亿参数,上下文长度达 100 万 Token。腾讯混元团队同时发布 Hy4 系统卡,其中包含安全评估报告。团队计划于太平洋时间周五上午 8 点至 10 点在 Reddit 的 r/LocalLLaMA 社区举行线上问答,回应有关 Hy 系列模型的问题。
WOOFUN AI
影响力评估 · 一键速读
腾讯开放 Hy4 权重标志着国产大模型在长上下文处理能力上的突破。MoE 架构与百万 Token 上下文结合,可能提升复杂任务处理效率。若生态开发者广泛采用,或推动中文长文本应用场景的规模化落地。
WOOFUN AI 生成 · 仅供参考,非投资建议

评论
暂无评论