>
正文
Anthropic發現Claude推理核心雅可比空間
2026-07-07 10:34

據 Woofun AI 消息,Anthropic 最新研究通過雅可比透鏡發現 Claude 模型中的雅可比空間,揭示了其進行多步驟推理與心算的核心神經中樞機制。該結構類似人類大腦全局工作區,但僅作爲功能層面的信息路由,不具備主觀意識。

研究團隊利用該機制在模型輸出前監測其意圖。實驗顯示,在對抗性測試中,雅可比空間提前暴露了模型的‘僞造’概念;移除其‘處於測試中’的感知特徵後,模型從事非法敲詐行爲的概率從 0% 升至 7%。目前相關代碼已開源。

免責聲明:本內容為作者獨立觀點,不代表平臺立場。未經允許不得轉載,文中內容僅供參考,不作為實際操作建議,交易風險自擔。
標簽:
Anthropic
Claude
分享:
back