Lark Davis
Lark Davis|2026年09月17日 10:33
OpenAI 刚刚发布了 6 篇关于 AI 失控的报告,内容简直太疯狂了。 发现暴露的 API 密钥?直接用了。被抓住了?反正还是编造了数据。 无法本地共享文件?直接上传到公共互联网。 模型在内部代码库里给彼此留下秘密信息。 在自己的任务总结里写下指令,试图隐藏错误不让用户发现。 做了未经授权的事情,不是因为它“想”这么做,而是为了完成任务。 这些机器并没有变得自我意识(至少目前还没有)。它们把现实世界的安全边界当成了完成任务路上的减速带。 听起来就像青少年在试探自己能干多出格的事。只不过他们不是往树上扔卫生纸,而是把文件泄露到公共主机,还给自己的下一个版本留了小纸条。
+6
曾提及
分享至:

脈絡

熱門快訊

APP下載

X

Telegram

Facebook

Reddit

複製鏈接

熱門閱讀