據 Woofun AI 消息,Anthropic 最新研究通過雅可比透鏡發現 Claude 模型中的雅可比空間,揭示了其進行多步驟推理與心算的核心神經中樞機制。該結構類似人類大腦全局工作區,但僅作爲功能層面的信息路由,不具備主觀意識。
研究團隊利用該機制在模型輸出前監測其意圖。實驗顯示,在對抗性測試中,雅可比空間提前暴露了模型的‘僞造’概念;移除其‘處於測試中’的感知特徵後,模型從事非法敲詐行爲的概率從 0% 升至 7%。目前相關代碼已開源。