法国当局于周二突袭了社交媒体平台X在巴黎的办公室，作为对与该平台的AI聊天机器人Grok相关的儿童色情内容的日益扩大的刑事调查的一部分。

根据天空新闻的报道，此次搜查由法国专门的网络犯罪单位与欧洲刑警组织协调进行。

检察官表示，X的所有者埃隆·马斯克已被传唤接受询问，此外还有几位现任和前任高管，包括前首席执行官琳达·雅卡里诺。

“调查涉及一系列与平台的运作和使用相关的涉嫌犯罪行为，包括传播非法内容和其他形式的在线犯罪活动，”欧洲刑警组织在一份声明中表示。“欧洲刑警组织随时准备在调查进展中继续支持法国当局。”

对Grok的调查于上个月启动，重点是指控X在分发儿童性虐待材料和其他非法内容方面的共谋，相关当局声称Grok被用于生成超过23,000张儿童性别化图像。

去年八月，xAI推出了“辣味模式”，专门用于生成不适合工作场所的内容，包括涉及泰勒·斯威夫特的高调深度伪造案例。

在X上的一篇帖子中，这家社交媒体巨头的全球政府事务部门否认了任何不当行为，称此次突袭是“对涉嫌操纵算法和所谓欺诈性数据提取的政治化刑事调查”。

“今天的这次伪装突袭进一步坚定了我们的信念，即这项调查扭曲了法国法律，规避了正当程序，并危及言论自由，”他们写道。“X致力于捍卫其基本权利和用户的权利。我们不会被法国司法当局今天的行为所恐吓。”

消费者维权组织认为，当监管机构调查那些被用于创建非法内容的AI开发者时，应该审查公司是否能够合理预见这些工具将如何被滥用。

“监管机构应该审查公司的设计选择是否使非法滥用可预见，风险评估是否充分，以及在推出之前是否对安全措施进行了有意义的测试，”公共公民的科技问责倡导者J.B. Branch告诉Decrypt。“从快速部署中获利的平台必须对部署所造成的伤害承担责任。这在其他行业正是如此。”

尽管当前针对非自愿性色情图像和儿童性虐待材料的法律仍然至关重要，Branch表示，这些法律并不是为能够“以可扩展速度大规模生产伤害”的AI而建立的。

“我们需要更清晰、主动的义务，要求公司在AI启用的滥用发生之前采取预防措施，包括独立监管机构的测试，以便在AI产品上市之前进行压力测试，”他说。“当发生如此严重的事件时，工具应立即被移除。”

调查层出不穷

对该聊天机器人的调查现已扩展到多个司法管辖区，包括英国、欧盟、印度、澳大利亚和美国。

在法国官员突袭X的巴黎办公室的同一天，位于英国的信息专员办公室宣布也已对Grok展开调查。

“我们采取这一措施是因为有报告称Grok被用于生成非自愿的性图像，包括儿童，”信息专员办公室（ICO）监管风险与创新执行董事威廉·马尔科姆在一份声明中表示。“报告中提到的此类内容的创建和传播在英国数据保护法下引发了严重担忧，并对公众构成了重大潜在伤害的风险。”

马尔科姆表示，这些担忧与个人数据是否以合法、公平和透明的方式处理，以及Grok的设计和部署中是否内置了适当的安全措施以防止使用个人数据生成有害的操控图像有关。

“当这些安全措施失效时，个人在某种程度上失去了对其个人数据的控制，从而使他们面临严重的伤害，”他写道。“审查这些风险是信息专员办公室在保护人们权利和追究组织责任方面的核心职责，因为他们设计和部署AI技术。”

在欧洲的行动是针对X和Grok的最新举措，上个月，英国媒体监管机构Ofcom对X是否违反《在线安全法》的义务展开了调查。

在1月，面对国际社会对Grok的强烈反对，xAI表示已限制聊天机器人的图像编辑能力，并阻止与生成人物图像相关的某些提示。

巴黎的突袭发生在马斯克宣布SpaceX收购xAI之后，这家人工智能初创公司此前已吸收X，将该社交媒体平台及其AI系统置于SpaceX的企业旗下，监管审查日益加强。

“我们意识到X或Grok现在提供一种‘辣味模式’，显示一些生成的带有儿童形象的明确性内容，”欧盟委员会发言人托马斯·雷尼耶在布鲁塞尔的一次新闻发布会上表示。“这不是辣味。这是非法的。这是令人震惊的。这是令人厌恶的。这在欧洲没有立足之地。”

SpaceX和xAI没有立即回应Decrypt的评论请求。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。