Anthropic 披露 5 起 Claude 滥用案例含伊朗账户

Anthropic发布报告披露5起Claude滥用案例，涉及生物武器及伊朗关联账户针对美军目标。

据 Woofun AI 消息，Anthropic 周四发布报告，披露了五起利用 Claude 模型进行危险活动的案例。其中一起案例涉及研究增强蚊媒疾病传播能力，Anthropic 表示虽难确切断定其与生物武器计划的关联，但已阻止相关活动并通报有关部门。报告还涵盖监控、诈骗及常规武器研发等行为。

此外，Anthropic 封禁了三个与伊朗有关联的账户，这些账户被用于开展旨在引导舆论的影响力行动，其中一个账户制定了针对该地区美军海军力量的攻击目标建议。