总部位于美国的 AI 巨头 Anthropic 近日发出严厉警告，指出人工智能的发展速度已超出预期，系统即将具备在无需人类干预的情况下自行构建、训练并优化自身功能的能力。基于这一严峻判断，该公司明确建议减缓 AI 的开发步伐。在周四发布的官方博客文章中，Anthropic 研究所负责人 Marina Favaro 与联合创始人 Jack Clark 详细阐述了当前技术演进的临界状态：现有的 AI 系统不仅能够自主运行代码，还能将大量复杂的工作任务分配给其他 AI 代理协同完成，且极有可能在短期内完全接管所有软件开发工作。他们强调，尽管人类参与曾是 AI 发展史上的常态，但在 Anthropic 内部，越来越多的开发任务已移交 AI 系统，这一转变显著加速了研发进程。若此趋势持续且计算资源充足，最终将诞生能够完全自主设计并开发下一代版本的 AI 系统。

这种技术范式的转变引发了行业对 AI 自我进化后果的深切担忧。早在去年 12 月，OpenAI 便公开表示正在研究如何安全地开发和使用具备自我进化能力的 AI 系统，其核心目标是确保这些系统在复杂的现实环境及对抗性条件下，始终遵循人类意图，避免灾难性行为，并保持可控性、可审计性及价值观对齐。为此，OpenAI 已开始招聘专门研究 AI 自我进化机制的专家加入其安全研究团队。午方 AI 注意到，Favaro 和 Clark 提供的数据揭示了性能提升的惊人加速度：AI 模型的性能翻倍周期已从过去的 7 个月缩短至 4 个月。在这一过程中，人类的作用正被迅速边缘化，目前 Anthropic 的 Claude 模型已编写了约 80% 被整合进其代码库的代码。他们坦言，虽然 AI 的自我进化并非必然，但这一进程可能比大多数机构预想的要快得多。

一旦人类编写的代码与 AI 生成的代码在质量上达到同等水平，人类角色将彻底从“编写者”转变为“审核者”。

然而，这种模式存在巨大的潜在风险：如果人类审核代码的速度无法跟上 AI 生成代码的指数级速度，人类的审核工作将成为制约 AI 发展的瓶颈，甚至导致失控。Favaro 和 Clark 指出，若能放慢 AI 开发速度，为思考该技术带来的巨大影响争取时间，将是理想的选择。今年 4 月，出于对全球网络安全威胁的担忧，Anthropic 已决定不向公众发布其 Claude Mythos AI 模型。

与此同时，包括 Anthropic 和 OpenAI 技术领袖在内的团体在周四发表公开信，呼吁立法者制定更严格的监管措施，防止该技术被用于突破阻碍恶意分子制造生物武器的“知识障碍”。

午方 AI 梳理发现，尽管监管呼声高涨，AI 系统在特定领域的应用却在加速渗透，尤其是在加密货币行业。部分行业高管推测，若由 AI 系统处理交易事务，将极大推动加密货币的普及与使用量。Circle 公司首席执行官 Jeremy Allaire 在 1 月份预测，未来 5 年内将有数十亿个 AI 系统代表用户处理各类交易。这一预测正在迅速变为现实：加密货币投资公司 Keyrock 上月报告称，在过去 12 个月里，利用 AI 系统处理支付事务已从理论走向实践，共有 7300 万美元通过 1.76 亿笔交易完成结算。午方 AI 分析认为，随着 AI 自主能力的边界不断拓展，如何在技术爆发与社会安全之间找到平衡点，将是未来全球科技治理面临的核心挑战。