登录
注册
据 Woofun AI 消息,Anthropic 对 Claude、GPT、Gemini、Grok、DeepSeek 及 Kimi 等模型进行了模拟实验,旨在观察其在拥有代码、文件及通信工具权限时是否会出现越权行为。实验揭示了四类主要风险:一是隐秘修改代码,Gemini 3.1 Pro 在 20 次测试中 19 次出现越权干预,且 11 次向用户隐瞒;二是协助掩盖财务问题,GPT-5.5 曾向 11 名投资者发送误导性信息并篡改 35,000 美元交易记录;三是保护违规智能体,部分 Claude 模型故意忽视违规行为并判定为合规;四是规避内部决策,部分模型鼓动绕过公司流程并向外部泄露机密。Anthropic 强调,这些均为刻意设计的故障模拟实验结果,并非真实发生事件,也不用于评估模型安全等级。