奥特曼内部讨论AI安全三条路，最极端一条是「熔毁对手GPU」

OpenAI CEO 奥特曼上周向员工介绍了三种安全开发超级 AI 的方案：第一种是建立类似国际原子能机构（IAEA）的全球监管组织，检查先进模型、审计安全措施。知情人士称，奥特曼倾向于这条路线。第二种效仿欧洲核子研究中心（CERN），让各大 AI 实验室合并到一个组织，或通过统一机构共同研发，而不是继续各自竞速。第三种最极端，被他称为「Eliezer 方案」：一家 AI 公司率先实现递归自我改进，让 AI 不断提升自身能力，再凭借压倒性的经济实力控制算力，让其他开发者无法追赶。奥特曼甚至用了「熔毁其他所有公司的 GPU」这一说法，但明确表示这个方案非常糟糕，只是为了把可能性讲全。「熔毁 GPU」的设想来自 AI 安全研究者 Eliezer Yudkowsky。早在 2021 年，他就提出过一个思想实验：让超级 AI 制造能够自我复制的纳米机器，熔毁全球 GPU，阻止其他组织开发危险的超级智能。不过，他也明确表示，这只是用来说明干预力度的极端例子，并非自己真正主张执行的方案。前两条路线同样不是新主意。OpenAI 在 2023 年就提出过建立「AI 版国际原子能机构」，Google DeepMind 负责人 Hassabis 也曾主张设立「AI 版 CERN」。如今 OpenAI、Google 和 Anthropic 正计划在今年底或明年初成立联合安全标准组织，但连模型该由谁负责安全测试都存在分歧。奥特曼希望给 AI 研发设定「速度限制」，却也坦言，OpenAI 眼下不能把竞争优势拱手让给对手。[原文链接](动察 Beating AI 快)