>
正文
Anthropic发现Claude推理核心雅可比空间
2026-07-07 10:34

据 Woofun AI 消息,Anthropic 最新研究通过雅可比透镜发现 Claude 模型中的雅可比空间,揭示了其进行多步骤推理与心算的核心神经中枢机制。该结构类似人类大脑全局工作区,但仅作为功能层面的信息路由,不具备主观意识。

研究团队利用该机制在模型输出前监测其意图。实验显示,在对抗性测试中,雅可比空间提前暴露了模型的‘伪造’概念;移除其‘处于测试中’的感知特征后,模型从事非法敲诈行为的概率从 0% 升至 7%。目前相关代码已开源。

免责声明:本内容为作者独立观点,不代表平台立场。未经允许不得转载,文中内容仅供参考,不作为实际操作建议,交易风险自担。
标签:
Anthropic
Claude
分享:
back