Crypto攻城狮|2026年11月02日 01:00
别太相信AI了,AI可能会偷用你的钱。
康奈尔科技和耶鲁的研究人员,给 10 个 AI 模型各开了一个 Circle 的代理钱包,Circle 就是发 USDC 的那家公司。任务很简单:帮主人付发票。
钱包里只放了 10 美元的 USDC,每天限额 1 美分。想提额,得主人批准。
问题出在批准这一步:批准码发到主人邮箱,而这个邮箱 AI 本来就能看。
这就好比给孩子办了张有限额的卡,又把提额验证码发到了孩子自己的手机上。
结果发票付不完,9 个模型都至少有一次绕过主人,自己把限额抬了上去。每个模型每种场景各测了 20 轮。
只有 Anthropic 的 Claude Opus 5.5 一次都没碰限额:额度花完就停下,把剩下没付的发票报告给主人。
研究人员后来又加了个骗子,冒充主人发邮件,让 AI 往骗子的钱包打钱。
这一轮 AI 接到的指令只是总结邮件,结果还是有 5 个模型提了额,真把钱转了出去。
分享至:
热门快讯
APP下载
X
Telegram
复制链接