利好
OpenAI 委托 METR 审查最大规模强化学习训练
00:26
据 Woofun AI 消息,OpenAI 已委托 AI 安全评估机构 METR 对其迄今规模最大的一次强化学习训练运行开展安全审查。此次审查属于单次运行的试点评估,METR 将获得模型快照以及训练过程中的内部记录。双方尚未就更大范围的监控评估达成一致,相关评估的范围仍待商定。METR 前身为 ARC Evals,长期为前沿 AI 实验室提供部署前独立评估,此前曾对 OpenAI 内部的失准监控系统进行红队测试。
WOOFUN AI
影响力评估 · 一键速读
OpenAI 引入第三方独立机构对最大规模训练进行试点审查,标志着其安全评估流程的升级。若后续达成更大范围监控共识,AI 行业对训练过程透明度的要求或进一步提升。此次合作仅针对单次运行,不代表全面常态化监管机制已确立。
WOOFUN AI 生成 · 仅供参考,非投资建议

评论
暂无评论