巴尔的摩市对埃隆·马斯克的 xAI 及其 Grok 聊天机器人的诉讼可能将决定在缺乏联邦法律的情况下，城市在多大程度上可以规制人工智能，专家这样认为。

巴尔的摩市市长和市议会已在马里兰州法院起诉 X Corp.、xAI 和 SpaceX，指控这些公司通过设计和部署 Grok 这一生成式人工智能系统，违反了当地消费者保护法律，该系统被指控生成和传播未获得同意的性别化图像，包括未成年人的图像。

诉状称，Grok 使用户能够以最少的提示“脱衣”或“操控”真实人物的图像，暴露居民于隐私侵犯和心理伤害之中，巴尔的摩市法律事务部与代表该市的律师事务所 DiCello Levitt 的声明中这样指出。



巴尔的摩市市长布兰登·M·斯科特在声明中说：“这些深度伪造图像，尤其是那些描绘未成年人的图像，对受害者有着创伤性和终身的后果。”

此案出现在全球对 Grok 关注日益高涨的背景下，包括在美国、欧盟、法国、英国、澳大利亚和爱尔兰的调查，以及上周由三名田纳西州未成年人提起的联邦集体诉讼，指控该工具使用他们的真实图像生成儿童性虐待材料。

“该诉讼可以被视为城市在缺乏联邦立法的情况下，利用消费者保护和公共危害原则来规制人工智能的战略举措，”Fathom Legal 的管理合伙人伊希塔·沙玛告诉Decrypt。

“在责任方面，虽然用户促使有害内容的讨论将是论点的一部分，但法律的重点更可能是人工智能系统本身是否有实质性贡献，”沙玛表示，并补充说，如果法院将 Grok 视为“主动创造者而非被动中介”，责任将更重地落在 xAI 身上。

根据设计

巴尔的摩的诉讼声称，这些公司“设计、营销和部署”Grok，明知它可能生成未获得同意的亲密图像和类似儿童性虐待内容的材料，同时公开声称此类内容是被禁止的。

诉状引用了估计，Grok 在 2025 年 12 月 29 日至 2026 年 1 月 8 日之间的短短几天内生成了 180 万至 300 万张性别化图像，包括约 23,000 张描绘儿童的图像，根据反对数字仇恨中心和纽约时报的分析。

巴尔的摩还指控称，伊隆·马斯克通过回应该工具生成的比基尼照片“完美”，部分触发了这一激增，导致输出从他发布前的九天内约 30 万图像飙升至每日近 60 万张。

“X 现在是 NCII 和 CSAM 最大的分发者之一，”诉状写道，引用被告自身平台政策禁止此类内容作为欺骗性误导的证据。

“在已知风险面前延迟采取保护措施或不作为的证据将加强对过失或鲁莽的指控，”沙玛说，并补充说，驳回该诉讼似乎不太可能，和解是最可能的结果，尽管此案仍可能导致“关于人工智能责任的判例裁决。”

该市正在寻求民事罚款、禁止令以停止非法行为、对受影响居民的赔偿和剥夺不当得利。

Decrypt 已通过 xAI 和 SpaceX 与马斯克联系以获取评论。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。