Sam Altman|2026年09月01日 23:47
整个夏天,我们一直在全力以赴地专注于安全优先事项;现在比以往任何时候都更重要的是,让能力和安全措施齐头并进。虽然还有很多工作要做,但我们已经取得了很大的进展。我们也即将推出我们的下一个模型。
这里显然存在一种张力:一方面,Astra 非常出色,我们很期待看到大家用它能创造出什么。我们为自己的工作感到自豪。
另一方面,我们也清楚地处于一个需要谨慎的开发阶段,因此我们正在调整进度,以确保能够满足新能力水平所需的安全标准。
Astra 的训练已经完成一段时间了,它在能力和对齐方面都迈出了重要的一步。对于之后的模型,我们根据需要放慢了速度,以确保能够在安全性和对齐性上进行充分的工作。
人工智能正在变得极其强大;没有人能完全理解这将带来的后果。管理向一个充满强大人工智能的世界的过渡,并优化其安全性和对人类的益处,应该是世界上最重要的优先事项之一。这也是 OpenAI 的最高优先事项。
我们已经在兴奋与焦虑之间的张力中生活了一段时间,这种矛盾感对我们来说依然存在。我们知道,对其他人来说,这种矛盾感可能更加强烈。然而,我们坚信,世界需要了解人工智能的发展方向以及模型在现实世界中的表现。更重要的是,我们相信,世界需要对齐的人工智能来管理这一过渡的未来阶段。
一个社会与技术共同演进的迭代循环,将是我们有最大机会做对这件事的方式。
所以,我们希望你们喜欢我们的新模型,也希望全世界继续认真对待人工智能正在发生的一切。
分享至:
脉络
热门快讯
APP下载
X
Telegram
复制链接