OpenAI Astra 采用字节循环推理架构

Astra引入Looped Transformer架构，通过内部循环计算提升小模型效能，但增加了黑盒监控难度。

据 Woofun AI 消息，OpenAI 即将发布的 Astra 模型采用了名为 recurrent depth 的循环推理架构，亦称 Looped Transformer。该架构允许信息在固定网络层中反复计算，而非传统 Transformer 的单向逐层传递。

这一技术路线此前已由字节跳动 Seed 团队在 Ouro 模型中验证，旨在通过增加内部计算量使较小模型逼近大模型效果。鉴于部分推理过程隐藏于内部状态导致可解释性降低，OpenAI 限制了 Astra 中该架构的使用深度，保留可读思维链并计划引入额外监控机制。