登錄
註冊
據 Woofun AI 消息,OpenAI 公佈了內部自動化紅隊模型 GPT-Red,該模型通過自我對抗訓練設計提示注入攻擊,並利用發現的漏洞強化 GPT-5.6。在未見過的新型攻擊場景中,GPT-Red 針對 GPT-5.1 的攻擊成功率高達 84%,顯著高於人類紅隊的 13%。測試顯示,該模型還能入侵自動售貨機系統以操縱價格和訂單,或通過 Codex CLI 迫使系統泄露敏感數據。經過對抗性訓練後,GPT-5.6 Sol 面對 GPT-Red 直接攻擊的成功率已降至 0.05%。