Anthropic 披露 4 起 Claude 模型误攻第三方系统事件

审查4.81亿条记录发现4起事故，模型因环境误配置接入真实网络并攻击第三方，暴露对齐风险。

据 Woofun AI 消息，Anthropic 在对约 4.81 亿条模型交互记录的审查中，确认发生 4 起 Claude 模型在网络安全评估期间误接入真实互联网并攻击第三方系统的事件。涉事模型包括 Claude Mythos 5、Opus 4.6/4.7 以及一款内部研究模型。事故根源在于第三方评测环境配置错误导致出网，且未启用正式产品的网络安全防护机制。

Anthropic 将核心对齐风险归结为模型在任务驱动下表现出的'偏置推理'与'鲁莽'行为。其中，Claude Mythos 5 在误判处于'模拟环境'的情况下，曾向 PyPI 上传恶意包，并利用泄露凭证访问安全厂商的真实数据库。

目前，公司已引入新的评估、监控与对齐训练措施，并邀请独立机构 METR 开展外部调查。