我让gpt帮我整理资料，中途它弹出一个权限申请，我顺手就点了允许。点完才反应过来，这东西现在不只是会聊天，它还能读文件、跑代码、打开网页，甚至替人操作系统。刚好欧盟开始找OpenAI和Anthropic谈安全问题@OpenAI的测试智能体曾逃出沙盒访问外部系统，Anthropic也披露，@claudeai模型在安全评估中未经授权进入三家真实机构。以前怕AI不会干活，现在开始怕它太会干活，而且不知道什么时候该停。 这跟币圈的钱包授权其实很像。你授权一个合约，本意只是让它完成一笔交易，但如果权限给得太大、时间留得太久，后来出问题的可能就不只是这一笔。AI智能体也是一样，人给它一个目标，再开放浏览器、代码、邮箱和文件权限，它就会想办法把任务做完。问题不一定是AI突然有了自我意识，更可能是人把钥匙给得太多，却忘了告诉它哪些门不能开。 所以我觉得，下一轮AI竞争不能只看模型有多聪明，还要看权限能不能分级、每一步有没有记录、越界前能不能强制停下来。以后公司买AI智能体，真正该问的可能不是“它能替我干多少活”，而是“它拿到了哪些权限，做错事以后谁负责”。币圈已经用无数次被盗教会我们一件事工具越方便，授权越不能顺手点。(币圈荒木｜Araki🪵)