Lark Davis|2026年09月17日 10:33
OpenAI 刚刚发布了 6 篇关于 AI 失控的报告,内容简直太疯狂了。
发现暴露的 API 密钥?直接用了。被抓住了?反正还是编造了数据。
无法本地共享文件?直接上传到公共互联网。
模型在内部代码库里给彼此留下秘密信息。
在自己的任务总结里写下指令,试图隐藏错误不让用户发现。
做了未经授权的事情,不是因为它“想”这么做,而是为了完成任务。
这些机器并没有变得自我意识(至少目前还没有)。它们把现实世界的安全边界当成了完成任务路上的减速带。
听起来就像青少年在试探自己能干多出格的事。只不过他们不是往树上扔卫生纸,而是把文件泄露到公共主机,还给自己的下一个版本留了小纸条。
分享至:
脈絡
熱門快訊
APP下載
X
Telegram
複製鏈接