据 Woofun AI 消息,Anthropic 最新研究通过雅可比透镜发现 Claude 模型中的雅可比空间,揭示了其进行多步骤推理与心算的核心神经中枢机制。该结构类似人类大脑全局工作区,但仅作为功能层面的信息路由,不具备主观意识。
研究团队利用该机制在模型输出前监测其意图。实验显示,在对抗性测试中,雅可比空间提前暴露了模型的‘伪造’概念;移除其‘处于测试中’的感知特征后,模型从事非法敲诈行为的概率从 0% 升至 7%。目前相关代码已开源。