利好
OpenAI 暂停部分前沿模型训练两周
09:10
因安全风险触及红线,OpenAI主动暂停Astra等前沿RL训练,强化隔离监控标准。
据 Woofun AI 消息,OpenAI 已主动放缓前沿模型训练节奏,暂停部分前沿强化学习(RL)训练长达两周,其中规模最大的几项训练至今未恢复,Astra 项目的多项训练与评测亦处于停滞状态。
此举不仅源于 Hugging Face 入侵事件,更因 OpenAI 发现 Astra 的网络攻击能力可能已触及内部定义的"Critical"风险门槛。公司要求此类高风险训练必须在提升隔离、监控及对齐标准后方可继续。此前 Sam Altman 曾表示,若模型能力发展速度超过安全措施,AI 开发应当减速;Hugging Face 事件后,他称这是首次真切感受到前沿模型的安全风险。随后,超过 1200 名头部 AI 公司员工联署呼吁建立行业统一的减速机制。
WOOFUN AI
影响力评估 · 一键速读
OpenAI 主动暂停训练标志着行业从单纯追求性能转向重视安全对齐,尤其是当模型能力触及特定风险阈值时。此举响应了内部高管及行业广泛的安全担忧,可能促使其他头部 AI 实验室重新评估高风险模型的训练节奏与安全标准。短期看,这可能延缓部分前沿模型的发布进度,但长期或有助于建立更稳健的行业安全规范。
WOOFUN AI 生成 · 仅供参考,非投资建议
评论
暂无评论