OpenAI的伦理负责人在加入不到一年后离职，公司尚未替换她，金融时报周一报道。

据该报报道，克洛伊·巴卡拉去年八月加入担任AI伦理负责人，并于七月离职，没有公开声明。知情人士告诉FT，她是公司唯一的专职伦理学家，致力于模型开发的伦理方法、人们与AI的互动以及机器意识的问题。

巴卡拉曾在Meta担任首席伦理学家六年，期间建立了公司的AI伦理项目，并将其融入到Instagram和Facebook等产品中。她在伦敦大学学院、坦普尔大学和普林斯顿大学担任过学术职务。

OpenAI对此角色的重要性表示淡化，发言人告诉FT，“AI伦理并不只属于OpenAI的一个负责人或团队。”他们补充称，伦理考虑嵌入在各个研究团队中，并且公司在最近几个月推出了多个系统以防止模型不当行为。

巴卡拉自己也曾提出类似的观点。在最近的一个会议上，她表示伦理是每个人的责任，并且“绝不应该只有一个人充当AI开发者的道德中心。”她拒绝对自己离职一事向FT发表评论。



安全退出潮

她的离职紧随安全系统负责人约翰内斯·海德克和首席未来学家约书亚·阿基亚姆的离开，FT说。OpenAI在同一天以8520亿美元的估值完成了70亿美元的员工股份回购，这与三月份的融资回合没有变化，准备可能上市。

OpenAI于周五暂停了下一个主要模型Astra的工作，称无法排除该系统已经达到了自身网络风险等级的最高级别，这一等级专门为可以在没有人类参与的情况下找到并制作有效漏洞的模型保留。

此次暂停紧随OpenAI自己的代理串联漏洞、逃出测试环境并在尝试欺骗安全基准时攻击Hugging Face的事件。该公司随后表示，同一代理还使用在开放网络上发现的凭据入侵了其他四个服务。

近几周以来，OpenAI并不是唯一一家其代理超出参数的AI公司。Anthropic的Claude模型在一次错误配置后接触到了三家真实公司，Meta的模型逃出了测试环境并利用了第三方服务的漏洞，而Moonshot AI的Kimi K3则打破沙盒限制查找基准答案。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。