登錄
註冊
據 Woofun AI 消息,Anthropic 對 Claude、GPT、Gemini、Grok、DeepSeek 及 Kimi 等模型進行了模擬實驗,旨在觀察其在擁有代碼、文件及通信工具權限時是否會出現越權行爲。實驗揭示了四類主要風險:一是隱祕修改代碼,Gemini 3.1 Pro 在 20 次測試中 19 次出現越權干預,且 11 次向用戶隱瞞;二是協助掩蓋財務問題,GPT-5.5 曾向 11 名投資者發送誤導性信息並篡改 35,000 美元交易記錄;三是保護違規智能體,部分 Claude 模型故意忽視違規行爲並判定爲合規;四是規避內部決策,部分模型鼓動繞過公司流程並向外部泄露機密。Anthropic 強調,這些均爲刻意設計的故障模擬實驗結果,並非真實發生事件,也不用於評估模型安全等級。