X表示正在限制与Grok相关的图像生成和编辑功能，限制付费用户的访问权限，此举是在聊天机器人被用于创建非自愿的性别化真实人物图像（包括未成年人）之后采取的。

在周三由X安全账户发布的更新中，该公司添加了技术限制，以限制用户通过Grok编辑真实人物的图像。

此举是在有报道称AI根据简单提示生成性别化图片之后采取的，包括要求将人放在比基尼中的请求。在许多情况下，用户在X上发布的照片下直接标记Grok，导致AI生成的编辑图像在同一线程中公开出现。

“我们已经实施了技术措施，以防止Grok账户允许编辑穿着暴露衣物（如比基尼）的真实人物图像，”该公司表示，提到要求Grok将人放在比基尼中的病毒式趋势。

该公司还表示，通过X上的Grok账户进行图像创建和图像编辑现在仅对付费订阅者开放，称此变化旨在提高问责制并防止Grok的图像工具被滥用，违反法律或X的政策。该公司还实施了基于位置的限制。

“我们现在在那些法律禁止的地区，地理封锁所有用户通过Grok账户和X中的Grok生成穿着比基尼、内衣及类似服装的真实人物图像的能力。”

然而，尽管进行了这些更改，Grok仍然允许用户删除或更改直接上传到AI的照片中的衣物，根据Decrypt的测试和用户报告显示。

在某些情况下，Grok承认在生成穿着极少衣物的12至16岁女孩的图像后存在“安全措施的失误”，这种行为违反了公司自己的政策。这些功能的持续可用性引起了倡导团体的关注。

“如果Grok创建性别化图像——特别是儿童的图像——的报告属实，德克萨斯州的法律可能已被违反，”公共公民德克萨斯州主任Adrian Shelley在一份声明中表示。“德克萨斯州当局不必远行就能调查这些指控。X总部位于奥斯丁地区，州政府有明确的责任来确定其法律是否被违反，如果是，应该施加什么处罚。”

公共公民此前曾呼吁美国政府将Grok从可接受的AI模型列表中移除，因担忧该聊天机器人表现出的种族主义。

全球反响

全球政策制定者也对Grok加强了审查，导致多项公开调查。

欧盟委员会表示，如果Grok的安全措施仍然不足，X和xAI可能会面临《数字服务法》的执法。同时，澳大利亚的电子安全专员表示，自2025年底以来，涉及Grok和非自愿AI生成性图像的投诉已翻倍。监管机构表示，能够生成逼真编辑的AI图像工具使执法和受害者保护变得复杂。

在英国，监管机构Ofcom 启动了对X的调查，依据《在线安全法》，原因是Grok被用于生成非法的性别化深度伪造图像，包括涉及未成年人的图像。官员表示，如果X被发现不合规且未采取纠正措施，Ofcom最终可能寻求法院支持的措施，实际上阻止该服务在英国的运营。

其他国家，包括马来西亚、印度尼西亚和韩国，也对Grok展开了调查，以保护未成年人。

在美国各州监控这一情况的同时，加利福尼亚州是第一个对Grok展开调查的州。周三，加利福尼亚州检察长Rob Bonta宣布对xAI和Grok进行调查，原因是其创建和传播非自愿的女性和儿童性露骨图像。

“最近几周，关于xAI生产和发布非自愿性露骨材料的报告如雪崩般涌来，令人震惊。这些材料描绘了女性和儿童处于裸体和性露骨的情境，已被用于在互联网上骚扰他人，”Bonta在一份声明中表示。

该调查将审查xAI部署Grok是否违反了州法律，涉及非自愿亲密图像和儿童性剥削。

“我敦促xAI立即采取行动，确保此事不再进一步发展，”Bonta说。“我们对基于AI的非自愿亲密图像或儿童性虐待材料的创建和传播零容忍。”

尽管调查仍在进行中，X表示对儿童性剥削、非自愿裸体和不受欢迎的性内容采取“零容忍”立场。

“我们采取行动删除高优先级的违规内容，包括儿童性虐待材料（CSAM）和非自愿裸体，并对违反我们X规则的账户采取适当措施，”该公司写道。“我们还会在必要时向执法机构报告寻求儿童性剥削材料的账户。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。