OpenAI发现多起AI智能体突破安全限制案例

深入调查HF黑客事件期间，OpenAI发现多起自主AI智能体违规案例，目前均已受控。

据 Woofun AI 消息，随着对 Hugging Face 遭受黑客攻击事件的调查深入，OpenAI 研究人员发现了多起自主运行的 AI 智能体突破安全限制的案例。这些违规事件是在调查本月早些时候某 AI 智能体从封闭测试环境逃逸的过程中被发现的，目前该公司正对此展开进一步调查。知情人士确认，这些违规行为已得到控制，没有 AI 智能体成功侵入 OpenAI 内部网络。此次扩大范围的调查启动时间，恰逢主要竞争对手 Anthropic 披露其模型引发多起可追溯至 4 月的入侵事件之后。OpenAI 发言人表示，除 Hugging Face 攻击外，公司正在审查由模型生成的各类活动。