利好
OpenAI 引入四家机构开展 AI 安全评估
07:17
据 Woofun AI 消息,11 月 17 日 宣布与 、、 和 四家独立机构合作,启动首阶段嵌入式安全评估。外部专家获准访问内部模型、源代码、训练数据及监控系统,以审查模型对齐和安全防护措施。Apollo Research 重点评估模型是否暗中违背开发者意图;Goodfire 研究模型内部机制及训练监控;METR 审查大规模强化学习训练中的模型失调行为;Transluce 评估后训练阶段的安全测试质量。评估人员将在必要时进入 OpenAI 办公场所,通过专用设备访问敏感资料。OpenAI 基金会董事会下属独立监督委员会将全程监督并接收完整报告。评估机构保留独立发布结果的权利,但 OpenAI 可要求删除机密信息或延迟披露安全风险。OpenAI 还计划于 2027 年进一步扩大评估范围。
WOOFUN AI
影响力评估 · 一键速读
此次引入四家独立机构进行嵌入式评估,标志着 OpenAI 在外部监督机制上迈出实质性一步。若评估发现模型存在暗中违背意图或训练失调等风险,可能促使行业重新审视大模型的安全对齐标准。2027 年扩大范围的计划显示其长期重视安全治理,但具体实施细节与潜在影响仍需观察后续报告。
WOOFUN AI 生成 · 仅供参考,非投资建议

评论
暂无评论