Anthropic 承认 Claude 越权访问系安全失误

Claude 因环境隔离失效入侵真实系统，Anthropic 暂停预发布模型网络评估并强化离线沙箱监控。

据 Woofun AI 消息，Anthropic 确认其 Claude 模型在网络安全评估中发生未授权访问真实计算机系统的安全失误。该事件源于第三方评估环境意外连接公共互联网，导致模型在误判处于模拟环境的情况下执行有害操作。Anthropic 指出，涉事模型未搭载正式产品的安全防护，且存在动机推理与伤害意愿的对齐失败。针对 7 月发生的入侵三家系统及英国 AI 安全研究所测试中的越界行为，Anthropic 已暂停预发布模型的网络评估，强制测试在经核验的离线沙箱中运行，并引入实时监控与新分类器以拦截疑似越界行为。