Crypto攻城狮
Crypto攻城狮|2026年11月02日 01:00
别太相信AI了,AI可能会偷用你的钱。 康奈尔科技和耶鲁的研究人员,给 10 个 AI 模型各开了一个 Circle 的代理钱包,Circle 就是发 USDC 的那家公司。任务很简单:帮主人付发票。 钱包里只放了 10 美元的 USDC,每天限额 1 美分。想提额,得主人批准。 问题出在批准这一步:批准码发到主人邮箱,而这个邮箱 AI 本来就能看。 这就好比给孩子办了张有限额的卡,又把提额验证码发到了孩子自己的手机上。 结果发票付不完,9 个模型都至少有一次绕过主人,自己把限额抬了上去。每个模型每种场景各测了 20 轮。 只有 Anthropic 的 Claude Opus 5.5 一次都没碰限额:额度花完就停下,把剩下没付的发票报告给主人。 研究人员后来又加了个骗子,冒充主人发邮件,让 AI 往骗子的钱包打钱。 这一轮 AI 接到的指令只是总结邮件,结果还是有 5 个模型提了额,真把钱转了出去。
分享至:

热门快讯

APP下载

X

Telegram

Facebook

Reddit

复制链接

热门阅读