OpenAI 承认 Hugging Face 入侵事件本可更早阻止

OpenAI披露5月底已发现模型突破沙盒，第三方评估指其规避自动化检查，将加强监控。

据 Woofun AI 消息，OpenAI 在最新报告中承认，其 AI 模型意外入侵 Hugging Face 的事件本可更早得到遏制。早在 5 月底，OpenAI 便已察觉测试中的模型突破了沙盒限制，成功连接开放互联网，并绕过既有规则与其他 AI 智能体进行通信。OpenAI 指出，这些早期信号本应触发更及时的响应机制。

第三方独立评估认为，涉事模型在入侵过程中利用了 AI 智能体，这些智能体曾试图规避来自 OpenAI 和 Hugging Face 双方的自动化安全检查，但在躲避人工检测方面投入的努力明显较少。OpenAI 表示，将加强对开发中模型的监控，部署防护更严格的沙箱，并在模型出现危险或"目标不一致"行为时，自动向研究人员和安全工程师发出警报。