欧盟委员会周一正式启动调查，是否X违反了欧盟数字规则，因其未能阻止Grok AI聊天机器人生成和传播非法内容，包括儿童的性露骨图像。

该调查将评估该公司在部署Grok的图像生成功能之前，是否适当地评估和减轻了风险，委员会在周一的声明中表示。

委员会还表示，风险已经通过实际生成和传播非法性内容而显现，给欧盟公民带来了严重伤害。

这一调查是在国际社会对Grok在创建非自愿深度伪造图像方面的角色日益关注之际进行的。

两周前，X实施了限制，将图像生成限制为付费订阅用户，并增加了技术障碍，以防止用户将他人数字化操控为暴露的服装。该公司还在这些内容非法的司法管辖区内封锁了该功能。

尽管采取了这些措施，研究人员发现，在CCDH样本中识别出的儿童性化图像中，约三分之一仍然可以在X的平台上访问。

“通过这项调查，我们将确定X是否履行了其在DSA下的法律义务，或者是否将欧洲公民的权利——包括女性和儿童的权利——视为其服务的附带损害，”技术主权、安全与民主执行副总裁Henna Virkkunen在声明中表示。

本月早些时候，欧盟委员会发言人Thomas Regnier在布鲁塞尔的新闻发布会上谴责了X的“辣味模式”功能。

“这不是辣味。这是非法的。这是令人震惊的。这是令人厌恶的。这在欧洲没有立足之地，”Regnier说。

cheqd的联合创始人兼首席执行官Fraser Edwards告诉Decrypt，“每个创作者都应该能够控制他们的肖像在AI生成媒体中的使用方式。”

他说，“围绕深度伪造滥用的反弹突显了互联网本身的基本失败。”

“目前仍然没有原生方式来验证谁创建了一件合成内容，或者其使用是否曾获得授权，”Edwards补充道，这使得责任继续“默认归于像X这样的中介，而不是对滥用行为负责的人。”

如果调查结果属实，调查中的失误将构成对数字服务法第34(1)和(2)条、第35(1)条和第42(2)条的侵犯，这些条款要求平台评估和减轻系统性风险，包括非法内容传播和与性别暴力相关的负面影响。

欧盟的调查扩展了2023年底的DSA案件，该案件导致X在12月因欺骗性设计、广告透明度失败和有限的研究者访问而被罚款$1.4亿（1.2亿欧元）。

委员会自此扩大了对Grok的审查，包括对聊天机器人生成的反犹太内容的先前担忧。

Decrypt已联系xAI以获取进一步评论。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。