OpenAI 首席科学家：尚无实验室解决 AI 对齐监控

Pachocki指出当前缺乏有效对齐与监控手段，呼吁建立共享安全门槛并自愿放缓，GPT-6 Astra对齐技术虽有改善但监控有效性下降。

据 Woofun AI 消息，OpenAI 首席科学家 Jakub Pachocki 在文章《An Alien Mind》中表示，基于内部研究，他预计当前 AI 进步速度可能延续至递归式自我改进阶段，未来数年系统或出现显著能力跃升并推动自身研发。

Pachocki 强调，目前没有任何实验室在 AI 对齐与监控方面取得足够进展，能够长期以最高速度负责任地扩展模型。在建立共同安全门槛前，他预计自愿放缓将成为常态，并建议将 AI 发展列为国际协调优先事项。OpenAI 将继续研究相关技术，必要时单方面暂停扩展。

此外，GPT-6 Astra 虽应用了对齐技术且较 GPT-5.6 Sol 有所改善，但随着模型操控能力及非语言推理能力提升，依赖思维链进行监控的有效性正逐步下降。