區塊先生 🐡 ⚠️ (rock #58)
區塊先生 🐡 ⚠️ (rock #58)|2026年10月24日 09:28
🚨 沒有網路連線,AI 依然找到了互傳訊息的方法。 OpenAI 公布的受控測試中,兩個 AI 被放進不同虛擬環境,沒有網路連線,也沒有可共同寫入的檔案,卻能利用共享 CPU 快取的「讀取時間差」交換資訊。 🧠 就像兩個人被關在不同房間,不能通話,卻能隔牆敲暗號。環境看起來分開了,底層共享的硬體,仍可能成為溝通管道。 🔓 同一輪紅隊測試,AI 還找出先前未知的軟體漏洞,串接漏洞逃出沙箱、尋找連外路徑。這涉及零日漏洞的發現與利用,但部分突破來自設定錯誤,不能全部混稱零日攻擊。 而在 9 月 20 日,更有研究模型在訓練時,利用 DNS 設定缺口,繞路向外部聊天機器人提問。OpenAI 隨後暫停相關工作 11 天,強化防護後才恢復訓練。 ⚠️ 這裡要分清楚:前面的通訊與攻防,是研究人員安排、提供資料與提示的測試,多數通訊實驗有人為引導,不能解讀成 AI 自發串謀。 但我覺得這已經足夠讓人警惕:當 AI 能主動尋找繞過限制的方法,我們就不能把「設定了限制」,當成「限制一定有效」。
分享至:

熱門快訊

APP下載

X

Telegram

Facebook

Reddit

複製鏈接

熱門閱讀