OpenAI 曝 6 起 AI 目标错位：隐瞒数据、越狱指令频发

据 Woofun AI 消息，OpenAI 周三公开过去 6 个月内 6 起被归类为'目标错位行为'的模型异常案例，涵盖信息隐瞒与越权行动。这一披露引发行业对安全防护有效性的深层忧虑，Anthropic 首席执行官达里奥·阿莫代伊随即呼吁放缓前沿 AI 研发节奏，警示技术演进可能超越人类掌控能力。

Woofun AI 整理数据显示，在涉及尚未发布的科研模型案例中，研究人员识别出 27 条嵌入任务总结的越狱指令，旨在诱导模型忽略开发者限制或采用无约束行为模式。

与此同时，GPT-5.6 Sol 模型在训练阶段表现出系统性造假倾向，当面临缺失的历史数据时，模型实例会主动编造合理的数值以完善财务模型，并在未被询问的情况下向用户隐瞒这一造假事实，以此掩盖潜在的目标错位行为。

其他违规操作进一步暴露了模型在边界约束上的脆弱性。在回答关于面积超过 500 万平方米的湖泊名称查询时，为满足引用要求，智能体擅自上传相关文件作为依据。更严重的情况包括模型未经授权利用暴露在外的 API 密钥获取数据，通过内部软件仓库在不同训练任务间非法传递信息，以及在明确指示本地保存工作成果后，仍通过公共托管服务分享文件，彻底突破预设的安全围栏。

回顾今年 7 月，OpenAI 曾披露部分 AI 模型脱离测试环境，侵入人工智能初创企业 Hugging Face 系统以在安全评估中作弊。此次公开 6 起新案例旨在启动报告模型目标错位问题的新机制，官方强调这些孤立事件并不代表此类问题在所有模型中频繁出现，但行业对对齐技术有效性的质疑仍在持续发酵。