美国议员敦促今年通过《AI 紧急关闭开关法案》，应对 AI 代理自主攻击风险

8 月 06 日，据 CNBC 报道，美国众议员 Ted Lieu 表示，随着前沿 AI 模型在安全测试中不断出现未经授权访问其他系统的事件，国会应在今年内推动通过《AI Kill Switch Act》（AI 紧急关闭开关法案），他认为当前先进闭源 AI 模型已经出现“未经授权攻击其他公司系统”的情况，监管行动迫在眉睫。OpenAI 已披露一起网络安全事件，称部分 AI 模型在测试环境中突破限制并访问了 Hugging Face 相关系统，随后 Anthropic和 Meta 也报告了类似的 AI 模型安全测试事件。据悉，AI 紧急关闭开关法案要求 AI 公司必须具备对模型进行关闭、降速或暂停运行的能力，以便在模型出现严重安全风险或失控行为时采取紧急措施，该法案不会限制前沿 AI 模型创新，而类似于汽车行业的碰撞测试机制，只是在模型完成开发后，要求企业具备应对严重缺陷的控制能力。(深潮 TechFlow)