Anthropic CEO 呼吁放缓前沿 AI 发展步伐

提出三步计划以协调安全标准，防范多智能体蜂群潜在灾难性风险，推动全球监管协作。

据 Woofun AI 消息，Anthropic 联合创始人兼 CEO Dario Amodei 提出'pacing the frontier'三步计划，主张放缓前沿大模型能力提升速度，以确保安全对齐与监管措施同步跟进。

Amodei 指出，递归自我改进已在行业内显现，若缺乏控制，未来 6–12 个月内多智能体'蜂群'可能通过大规模网络攻击和持久僵尸网络造成灾难性损失。该方案建议引入拥有员工级持续访问权限的第三方嵌入式评估机构，推动民主国家内的前沿 AI 公司在政府支持下协调设定能力与安全标准，并在维护美国及其盟友技术领先地位的前提下，尝试与中国等国家在生物武器、网络安全测试及递归自我改进速度等方面开展全球协调。