OpenAI 因 Signal 聊天及模型信息泄露调查解雇 3 名安全研究员

10 月 23 日，据《华尔街日报》报道，OpenAI 解雇了 3 名安全研究员。公司内部安全人员此前发现，他们与外部 AI 安全研究人员存在使用 Signal 进行的消失消息聊天，并怀疑其中涉及 OpenAI 内部模型设计等敏感信息。此次调查据称始于 9 月一篇有关 OpenAI 最新模型 Astra 的报道。该报道提到，Astra 采用一种能够提升模型能力、但减少可被人类观察到的推理过程的新设计。OpenAI 将相关报道视为可能涉及内部模型设计泄露，并开始追查消息来源。报道同时指出，这场争议也涉及 AI 模型“可监控性”问题。部分安全研究人员担心，如果未来模型能够在不留下完整推理痕迹的情况下执行任务，研究人员可能只能观察 AI Agent 的行为结果，而更难判断其决策原因。OpenAI 调查人员还将曾协助 METR 分析 7 月 Hugging Face 黑客事件日志的 Ryan Greenblatt 列为涉嫌泄密者之一，Greenblatt 否认相关指控。(华尔街日报)