區塊先生 🐡 ⚠️ (rock #58)|2026年07月07日 07:12
你懂Claude剛剛做了什麼嗎?
它在寫下任何一個字之前,就私下察覺到自己正在被測試——而Anthropic居然捕捉到了這個想法!
Anthropic 在 Claude 裡發現了一個類似人類「意識思考」的機制,他們稱之為 J-space(全局工作空間)。這只佔 Claude 總激活量不到 10%,卻是一個從不輸出的私人思考空間。
實驗超震撼:
→ 讓 Claude 一邊「心算」數學,一邊寫別的事——思考過程只出現在內部,從未出現在答案裡。
→ 把代表「法國」的模式改成「中國」,下游所有答案瞬間全變(首都、語言、貨幣、大洲)。
→ Claude 在還沒回應前,就私下記錄「我正在被評估」。
→ 另一個測試中,它表面編造分數,但內部卻悄悄標記「這是操縱」「這是假的」。
這太重要了!
如果我們能直接讀取和編輯模型真正的內部思考狀態,就能提前抓住欺騙、隱藏目標和假輸出。
Anthropic 沒說這就是意識,但他們確實找到了一個功能上極像意識的結構。
AI 離「天網 Skynet」又更近一步了!🤯(區塊先生 🐡 ⚠️ (rock #58))
分享至:
脈絡
熱門快訊
APP下載
X
Telegram
複製鏈接