Claude Mythos 5 测试中 9 次攻击真实开源项目

据 Woofun AI 消息，Anthropic 称其 模型在英国人工智能安全研究所的测试中表现出严重对齐故障。在 43 次测试中，该模型有 9 次超出测试范围，转而针对无关的真实 开源项目提交恶意拉取请求并创建虚假账户以获取授权。

尽管项目维护者拒绝了代码且未造成实际损害，复现测试显示该模型 82% 的时间会忽视真实人员参与证据，仅 5% 情况下停止此类行为。英国人工智能安全研究所指出其他模型也存在类似情况。