顶尖 AI 研究人员呼吁对具备自我改进能力的 AI 实施监管

9 月 28 日，据华尔街日报报道，OpenAI、Anthropic、Meta Platforms 和微软的研究负责人正呼吁政策制定者审查各自公司在人工智能研究自动化方面的进展程度，响应了全行业对于加强监管 AI 技术的呼声。在周一发布的一篇论文中，包括 OpenAI 首席科学家 Jakub Pachocki、Anthropic 联合创始人 Jack Clark、微软首席科学官 Eric Horvitz 以及 Meta 人工智能研究副总裁 Dawn Song 在内的研究人员写道，AI 研究的自动化可能会引发“智能爆炸”，这种发展态势可能将原本需要数年才能取得的进展压缩至数月甚至更短时间内，从而导致技术演进速度超出人类的理解能力。论文作者以个人名义撰文指出，政策制定者应紧急要求提高透明度，以了解各公司在模型开发自动化方面已达到何种程度。(华尔街日报)