Anthropic 研究员称明年底 AI 或失控

Jacob Coxon 辞职并退出 AI 行业，警告超级智能竞赛导致安全让步，认为单靠企业自律无法规避风险。

据 Woofun AI 消息，Anthropic 研究员 Jacob Coxon 宣布辞职并准备离开 AI 行业。他在 OpenAI 和 Anthropic 从事预训练研究三年，指出两家公司正竞相打造能自我提升的超级智能，未负责任地推进 AI 发展。Coxon 今年从 OpenAI 转投 Anthropic，原因为后者更重视模型安全，但他认为在 AGI 竞赛中安全让步难以避免，单靠一家公司自律无法解决问题。他评价 OpenAI 内部许多人未充分意识到风险，而 Anthropic 虽知风险却因不信任竞争对手选择抢先研发。Coxon 称部分从业者私下对 AI 持更悲观态度，担心本十年结束前 AI 可能毁灭人类。他判断最激进情形下明年底 AI 可能失控，认为相关决策不应仅由几家公司的工程师内部决定。