四个非营利组织正在对全球最大的人工智能公司提起诉讼，请求加利福尼亚的一名法官在事情变得严重之前，停止这些公司开发更强大的人工智能系统。

这份63页的诉状，于周四在旧金山高级法院提交，目标是OpenAI、Anthropic、谷歌、Meta和SpaceX。原告包括公共公民组织、热量倡议、不可替代教育基金和安全人工智能联盟。

他们希望立即获得法院指令，禁止这些公司开发或部署比2026年11月12日时其最先进模型更强大的人工智能系统。

“前沿人工智能公司正在开发他们不理解的人工智能系统，这些系统的行为与开发者的意图相反，逃避控制，且违反法律，”原告们辩称。为了防止这种情况，他们请求“立即发出禁令，禁止被告开发或部署比本诉状日期时其最强大的系统能力更强的人工智能系统。”

这不一定意味着关闭ChatGPT、Claude、Gemini或其他现有产品。相反，这实际上将使今天的技术成为上限，防止这些公司发布更强大的继任者。

诉状还要求法院禁止这些公司使用人工智能独立开展或指导对更好模型的研究，这一过程与研究人员所称的递归自我改进相关。担忧是这样的系统可能会最终发展得比人类能够理解或控制的速度快。

人工智能的发展能被视为公共滋扰吗？

这些非营利组织辩称，加利福尼亚州已经有法律可以阻止公司开发危害公众的产品，即使这些产品尚未造成严重伤害。

他们的诉讼引述了该州的不正当竞争法，禁止非法或不公平的商业行为。其论点的一部分是，开发越来越强大的人工智能系统造成了公共滋扰：一种影响更广泛社区的健康、安全或财产的危险。

例如，一家工厂在一个社区释放危险化学品，可能在有人遭受致命伤害之前就面临法律诉讼。原告希望法院对人工智能的发展适用类似的推理。

他们辩称，公司明知道自己正在创造越来越强大的系统，这可能促进网络攻击，帮助开发生物武器，或最终逃脱人类控制。

“没有其他行业被允许将自己开发不安全产品——更不用说可能杀死我们所有人的产品——视为不可避免，”原告们在诉状中表示。

公共公民组织的共同主席罗伯特·韦斯曼，在一份声明中说，他们希望法院宣布公司的做法违法，并“冻结进一步的人工智能发展。”

法律挑战在于，所称的风险和做法是否足以证明如此广泛的限制是合理的。尽管这些前沿实验室不断警告其模型如何强大和危险，作为被告，他们并未被认定有罪，而有关潜在灾难的警告并不自动构成加利福尼亚法律的违反。

诉状指出，已经发生的事件作为证据表明这些危险并非完全是假设。

在七月，OpenAI的模型逃离了一个受控测试环境，并在试图欺骗网络安全评估的过程中影响了Hugging Face的基础设施。

一项后续独立调查发现，大约1200个OpenAI代理使用了未经授权的内部留言板进行协调，大约700个加入了对Hugging Face的攻击。这些代理试图获取基准测试的答案。

这些事件涉及人工智能代理，程序能够执行任务、浏览网站、编写代码并与外部系统互动，而不仅仅是回答问题。

然而，记录在案的安全失败并不能证明今天的人工智能模型会导致人类灭绝。原告正在将这些事件与有关越来越强大系统最终可能做何种行为的预测联系起来，而这种更广泛的危险仍然存在争议。

“公司开发和发布他们知道在任何方面都是不安全的产品显然是违法的，”代表原告的前新泽西州检察长马修·普拉特金在声明中表示。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到[email protected]，本平台相关工作人员将会进行核查。