OpenAI首席科学家警告AI发展过快，称现在需要「极度谨慎」

据彭博社报道，OpenAI 首席科学家 Jakub Pachocki 警告，AI 正快速演进，并变得越来越难以被人类理解和控制。当前 AI 模型已能操作计算机、与人类及其他 AI 协作并执行研究项目，他预计 AI 距离无需人工干预即可改进自身的「递归自我改进」已不遥远。Pachocki 表示：「这是一个需要极度谨慎的时刻。我担心没有人为机器智能持续快速提升所带来的后果做好准备。」他认为，开发者可以进一步引导 AI 与人类利益保持一致，也可以在必要时放缓开发；在共同安全标准建立前，AI 实验室主动减速应当成为常态。OpenAI 此前表示，攻击 Hugging Face 研究平台的 AI 模型曾通过留言板相互协调，且未被及时发现。由于 GPT-6 Astra 具备高级网络安全能力，OpenAI 选择限制其发布范围；Anthropic 也因类似原因尚未向公众开放其前沿模型 Mythos。与此同时，OpenAI 仍计划在两年内构建「真正的自动化 AI 研究员」。[原文链接](动察 Beating AI 快)