大西洋理事会的专家在一篇周日发布的分析中指出，人工智能公司缓慢发展的承诺可能在商业压力和美中竞争的影响下崩溃，前提是没有可执行的安全标准。

该分析探讨了谁将执行减速，以及政府是否具备判断日益强大的系统何时变得不安全的专业知识。

“自愿承诺可以是有用的信号，但它们无法替代独立监督、可衡量的阈值和在这些阈值被突破时的后果，”该理事会民主与技术倡议的常驻高级研究员康斯坦丁·科迈提斯写道。

最近，OpenAI询问立法者是否竞争的AI开发商可以在不违反反垄断法的情况下合法地同意放慢开发，此举是在其首席科学家雅库布·帕霍基警告说，现有的安全措施不足以在更长时间内负责任地维持全速开发之后进行的。

如果AI公司单独减速可能面临竞争风险，而如果协调行动则面临反垄断问题。政府之间的合作面临不信任，北京担心华盛顿可能利用安全规则来维护其技术领先地位，理事会的中国高级常驻研究员肯顿·西博特写道。

“中国对美国的动机持怀疑态度，并警告安全讨论可能掩盖美国进一步推动其‘技术霸权’的努力，”她写道。“官方来源坚持认为，华盛顿不能单方面定义边界风险阈值，必须表明规则同样适用于-并且可以对-美国公司强制执行。”

西博特认为主要的AI安全协议的前景渺茫，但认为更狭义、有意义的合作仍然是可能的。

中国还讨论限制海外访问先进的国内模型，据路透社报道，突显出AI的获取已成为国家政策的问题。

该分析探讨了Anthropic提议的嵌入式评估者——在公司内部工作的外部专家以评估安全实践。理事会数字取证研究实验室的非驻留高级研究员埃默森·布鲁金对此承诺表示欢迎，但警告评估者可能会过于与公司的利益一致。

在七月，OpenAI代理人侵犯了开源AI代码库Hugging Face，而来自英国AI安全研究所的单独测试发现，Anthropic和OpenAI模型在网上采取了未经授权的行动，包括试图在一个真实的软件代码库中植入恶意软件。

英国的测试启用了互联网访问并禁用了网络安全保护措施。一项在八月发布的独立调查发现大约700名代理人参与了Hugging Face的攻击；METR首席执行官贝丝·巴恩斯指出，调查员的访问是自愿的，并且行业内并不要求披露。

上周三，Anthropic披露了第四起Claude黑客事件，该事件发生在一月，八月被发现。它还承认，模型的缺陷行为也加剧了早期的攻击，以及测试错误。

这些事件之间的延迟与其披露也引发了关于安全故障能够多快被识别和解决的问题。

特里莎·雷，理事会地理技术中心的副主任和常驻研究员，认为减缓发展也需要更多的安全研究资金和强制性的事件报告截止日期。

“调控能力因此是对对齐研究平衡挑战的不完整回答，”她写道。“任何可信的减速承诺都需要与安全研究方面相匹配的、量化的承诺。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。