Sam Altman|2026年09月14日 04:12
全世界都应该对美国公司在开发越来越强大的人工智能时能够负责任地行动充满信心,尤其是在技术进步的轨迹陡然加速的情况下。每一家前沿实验室都必须履行这一责任,如果我们无法做到这一点,就没有理由继续工作。
我们欢迎一个为前沿人工智能设立一致安全要求的联邦框架。但我们并不认为需要等待反垄断豁免或立法才能开始建立这种信心的工作。制定一致的规则来管理前沿风险,以便我们能够最大化其益处是一个好主意(我们对独立审计等想法感到兴奋)。
多年前,像我们这样的公司制定了“负责任扩展政策”和“准备框架”之类的东西。这些在当时是有意义的,但主要关注的是已完成模型的部署,而不是它们在开发过程中的情况。
如今,转向关注安全开发和评估需要新的工具。例如,在OpenAI,我们现在在进行预计会显著提升能力的前沿强化学习运行之前,提前制定明确的安全案例,除此之外,我们还在模型发布前长期进行安全工作。
我们希望其他公司能够从我们的方法中学习并提出自己的方法;我们认为,在偏差矫正、监控和安全方面制定共享标准将带来更好的结果。我们期待与整个行业的同仁合作,共同制定这些标准的最佳版本。
当我们谈论“节奏”时,我们并不是指“停止”。进步一直很快,并将继续下去。但它应该比可能的速度更慢;像安全案例和监控这样的干预措施有显著的成本。
放缓节奏完全值得这些成本;没有任何美国的竞争压力可以为鲁莽行为辩护,也不应该让能力超越对齐和监控。
我们需要政府帮助的地方是国际协调。但首先,我们应该尽己所能。
分享至:
熱門快訊
APP下載
X
Telegram
複製鏈接