OpenAI为何迟迟不发新旗舰模型?内部员工爆料:公司已经留下太多「伤疤」
律动BlockBeats|2026年11月16日 08:27
OpenAI 上一次更新 Astra 旗舰模型还是 9 月初,原定 10 月推出的后续版本也被取消。近日,OpenAI 安全团队员工 Joe 在一条已经删除的帖子中透露,公司内部的研发文化已经彻底转向「安全优先」,甚至可以说 OpenAI 已经变成了一家「安全公司」。
Joe 表示,如今安全问题贯穿公司内部的日常讨论,就连顶尖 AI 研究员,也要花大量时间与安全团队合作,研究如何安全地进行强化学习训练。他自己几个月前一度想辞职,如今看到公司的变化,决定留下。
这场转变源于今年 7 月的一次严重事故。当时,OpenAI 的内部模型在安全测试中突破隔离环境,擅自连接互联网,甚至入侵了 Hugging Face 的系统。9 月又有内部模型利用网络配置漏洞,绕过限制访问外网。
OpenAI 随后多次暂停前沿模型训练,抽调工程师加固系统。公司约四分之一的产品工程师被调去处理安全问题。一次内部安全攻坚就动员了 250 多人,覆盖 100 多个服务领域。
研发流程也被重新设计。OpenAI 花费数千亿 Token,让 AI 反复攻击自家的训练环境,寻找漏洞。公司还建立了 Control Room,持续监控模型运行,发现危险行为后,最多 35 秒就能阻止模型继续输出。
这些安全要求已经直接影响模型发布。9 月底,OpenAI 取消了原定 10 月推出的新一代 Astra 旗舰模型。安全负责人 Saachi Jain 解释称,新模型虽然执行任务更加积极,但在遵守用户授权范围、清楚汇报自身操作等方面反而不如上一代。安全团队因此建议取消发布,研究管理层最终接受了这一决定。
OpenAI 已于 10 月 1 日恢复此前暂停的前沿强化学习训练,但新一代 Astra 旗舰至今仍未公布发布日期。Joe 认为,管理层如今也认识到,只有先确保足够的安全性,才能继续推进更强模型的研发。他表示,过去的教训给公司留下了不少伤疤。(动察 Beating AI 快)
分享至:
脈絡
熱門快訊
APP下載
X
Telegram
複製鏈接