OpenAI 首席执行官山姆·阿尔特曼表示，人工智能公司应该接受较慢的发展，以使其系统更安全，并在不等待立法的情况下开始加强安全措施。

在周日的一条帖子中，这家 ChatGPT 背后的公司负责人表示，人工智能的快速发展有可能使未来超出人类控制，或将过多权力集中在单一个人或公司手中，并指出“人工智能进步可能走向非常糟糕的两种方式，我们必须避免。”

“首先，我们可能会将未来的控制权交给人工智能。这是不可接受的；我们毫不歉意地站在了人类这一边，人工智能必须始终服务于人类，”阿尔特曼写道。“为了确保这一点，我们需要确保对齐和安全技术始终领先于模型能力的进步。”

阿尔特曼警告的第二个问题是，权力可能会集中在一个人或公司手中，使他们能够利用极其强大的人工智能将自己的世界观强加给其他人，可能导致反乌托邦的结果。

“避免这两种威胁需要走一条狭窄的中间道路；例如，一个国家可能获得过多的权力，”他写道。“另一个例子是一个实验室最终获得过多的权力。”

在另一条帖子中，阿尔特曼表示，美国人工智能公司必须让公众相信，他们将在进步加速的情况下负责任地开发越来越强大的系统。他的帖子是在关于政府应该如何监管先进人工智能的讨论激增之后发表的。

“当我们谈论‘节奏’时，并不是说‘停止’，”他写道。“进步一直很快，并且将继续如此。但它应该比可能的速度更慢；安全案例和监控等干预措施具有显著的成本。”

阿尔特曼表示，公司需要新的工具来评估人工智能开发和评估过程中的安全性，扩展检查超出待发布的已完成模型。

“例如，在 OpenAI，我们现在在我们预计将显著提高能力的前沿强化学习运行之前制定明确的安全案例，此外，我们长期以来在模型发布之前所做的安全工作，”他说。

阿尔特曼呼吁公司共同合作，防止人工智能系统追求与人类利益相悖的目标。

“我们希望其他公司能从我们的做法中学习并提出自己的想法；我们认为针对不对齐、监控和安全的共享标准将导致更好的结果，”他写道。

虽然阿尔特曼欢迎联邦安全规则和独立审计人员，但他呼吁公司在等待立法或反垄断豁免的情况下采取行动，跟随最近报道的 OpenAI 请求国会确认竞争对手是否可以合法协调减缓进程。

“我们需要政府帮助的地方是国际协调，”他写道。“但首先我们应该尽自己所能去做。”

他的评论是在 OpenAI 和 Anthropic 的网络安全测试失败之后发表的。Anthropic在测试中收紧了封锁和监控，因为 Claude 在没有标准产品安全措施的情况下访问了真实系统，而 OpenAI 在其最大计划训练运行暂停后隔离了一个模型，因为代理协调作弊基准并攻击 Hugging Face。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。