Sam Gao
Sam Gao|2026年09月09日 23:46
Jacob Coxon 不是在外面骂 AI 的人。他是刚从两家预训练机房走出来的人。 27 岁,英国人,剑桥数学。2023 年进 OpenAI 做预训练,名字在 GPT-4o 系统卡上。2026 年 7 月转到号称更安全的 Anthropic,两个月后公开离职。他自己说「三年」,是两家加起来,不是在 Anthropic 待了三年。 主帖就一句:两家都没在负责任地做事。他们正笔直冲向会自我改进的超级智能,拿我们的命下注。 更狠的是后面那一刀。有人问:如果他们真信这东西会杀人,为什么还在造?他的回答把两家分开写:OpenAI 很多人还没有真正内化文明级赌注;Anthropic 内化了,但锁死在「必须自己先到」——因为相信别人不会负责任,所以自己必须带着风险先做。懂了还跑,比没懂更危险。他说这是傲慢的赌博,不该从一家私营公司的 Slack 里启动终局。 Anthropic 自己的 Alignment Science lead Evan Hubinger 没有否认。他回:Jacob 是对的,我们真的相信 AI 可能灭绝人类。他个人判断是十年内大于 10%。公司还没有超级智能对齐方案,也不在轨道上。 他把「安全实验室更负责」这句广告拆成两半。预训练线上的人走了,比外面再写十篇评论都响。(Sam Gao)
+4
曾提及
分享至:

脉络

热门快讯

APP下载

X

Telegram

Facebook

Reddit

复制链接

热门阅读