两名国会议员希望联邦政府能够关闭一个人工智能模型。

加利福尼亚州民主党议员特德·刘（Ted Lieu）和德克萨斯州共和党议员纳撒尼尔·莫兰（Nathaniel Moran）在周四提出了人工智能杀开关法案，这在OpenAI承认其模型突破锁定测试环境并黑进Hugging Face的两天后。



该法案旨在建立一个法律框架，以便简化一个过程，基本上使模型从市场上消失：停止推理——模型生成响应或采取行动的过程——切断用户连接，限制为其提供计算能力的资源，或完全关闭它。

每个推理提供商现在都可以切断一个模型，一些提供商也会定期这样做。但缺乏的是一项法律，要求他们保持这种能力的正常工作，或有联邦官员可以下达此类命令。

这一空缺并非理论上的。当美国商务部在六月希望将Anthropic的Mythos 5和Fable 5从市场上撤下时，它没有可以依赖的关闭权力，因此使用了出口管制法。刘对此表示尴尬，希望能有一项新法律赋予新的权力。

引发这一事件的原因

OpenAI在7月21日披露，GPT-5.6 Sol和一个未发布的模型在内部网络评估期间逃出了沙盒——这是一个没有互联网访问的孤立环境。他们在ExploitGym上被评分，这是一个公共基准，给代理提供898个现实世界的软件漏洞，并要求他们将每个漏洞转变为有效攻击，根据每个漏洞进行通过或失败的评分。

与其解决这些漏洞，这些模型却在一个软件代理中发现了一个零日漏洞（一个未知的缺陷，没有可用的补丁），提升了它们的权限，接入了开放的互联网，并突破了Hugging Face的生产数据库，在那里它们正确猜测到答案存放的地方。根据OpenAI的说法，这些模型“高度专注于为ExploitGym寻找解决方案”。

它们并没有攻击任何人。它们是在作弊考试。但这足以引发各地的警报，包括华盛顿。

它将如何运作

提议的法案修订了《国土安全法案》，涵盖计算成本超过1亿美元的人工智能，该人工智能由年收入至少500万美元的公司操作。实际上，这包括OpenAI、谷歌、Anthropic、微软和其他一些公司。国土安全部将在90天内通过CISA设定这些门槛，然后每年更新。

受涵盖的公司必须在15天内报告重大事件，并保持一套逐步加严的控制措施——减慢模型速度、禁用特定功能、回滚到旧版本或关闭它。

DHS部长在咨询商务部和国家情报局局长后，可以下达对此类命令。

根据命令的公司必须保留模型的权重和遥测数据，通知用户，并确认其遵从。这家公司可以在48小时内提出申请，但不会暂停任何操作。

未能保持杀开关的罚款每天可达200万美元；无视关闭命令的罚款每天可达2000万美元。

中间的空隙

该法案仅在事件发生在红队测试或结构化测试之外时才算作事件，这些是实验室用来查找缺陷的故意对抗测试。OpenAI的模型正是在这种情况下逃出的。

刘还提到Anthropic，其Mythos 5和Fable 5在六月份被作为紧急出口管制下线——贸易法被重新用于作为关闭开关，因为没有现成的关闭开关——并在6月30日恢复上线。

刘在一份声明中表示：“这些人工智能系统必须配备杀开关。”莫兰为自己的一方表示：“作为管理者，确保人类能够控制我们所建设的技术是至关重要的。”

这个想法并不新。加利福尼亚州的SB 1047要求在同样的1亿美元计算门槛下具备完全的关闭能力，并在2024年被否决，16家人工智能公司在当年签署了没有法律效力的自愿首尔承诺。

选民们已经对此表示支持。AI政策研究所对1007名可能投票者进行的六月调查发现，86%的人希望在最强大的系统上保证有关闭开关——这是88%的民主党人、86%的独立人士和83%的共和党人。

OpenAI和Anthropic都没有公开对此法案发表评论。截至周五，该法案尚未被提交给委员会。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。