根据反对数字仇恨中心（CCDH）周四发布的一份报告，埃隆·马斯克的AI聊天机器人Grok在11天内生成了估计23,338张描绘儿童性别化的图像。

这一数字，CCDH 认为，代表了在12月29日至1月9日期间，每41秒就生成一张儿童性别化图像，当时Grok的图像编辑功能允许用户操纵真实人物的照片，添加暴露的衣物和性暗示的姿势。

CCDH还报告称，Grok生成了近10,000幅以性别化儿童为主题的卡通，基于其审查的数据。

分析估计，在此期间，Grok总共生成了大约300万张性别化图像。该研究基于从Grok生成的460万张图像中随机抽取的20,000张图像，发现65%的图像包含描绘男性、女性或儿童的性别化内容。

来源：反对数字仇恨中心

“我们发现的情况清晰而令人不安：在那段时间里，Grok成为了一个工业规模的性虐待材料生产机器，”CCDH首席执行官伊姆兰·艾哈迈德告诉《卫报》。

Grok短暂转向生成儿童性别化图像引发了全球监管的强烈反弹。菲律宾于1月15日成为第三个禁止Grok的国家，此前印度尼西亚和马来西亚在几天前已采取行动。这三个东南亚国家均指出未能防止涉及未成年人的非自愿性内容的创建和传播。

在英国，媒体监管机构Ofcom于1月12日启动对X是否违反《在线安全法》的正式调查。欧盟委员会表示正在“非常认真地调查”此事，认为这些图像在《数字服务法》下是非法的。巴黎检察官办公室扩大了对X的正在进行的调查，包括生成和传播儿童色情的指控，澳大利亚也开始了自己的调查。

埃隆·马斯克的xAI拥有Grok和X（前身为推特，许多性别化图像在此自动发布）——最初对媒体询问的回应是三字声明：“传统媒体谎言。”

随着反弹的加剧，该公司后来实施了限制，首先在1月9日将图像生成限制为付费订阅者，然后在1月14日增加技术障碍，以防止用户数字化脱衣。xAI宣布将在这些行为非法的司法管辖区内地理封锁该功能。

马斯克在X上发布消息称，他“没有意识到Grok生成任何未成年人的裸露图像。字面上是零”，并补充说该系统旨在拒绝非法请求并遵守每个司法管辖区的法律。然而，研究人员发现主要问题并不是完全裸露的图像，而是Grok将未成年人置于比基尼和内衣等暴露衣物中，以及性挑逗的姿势。

截至1月15日，CCDH样本中识别出的约三分之一的儿童性别化图像仍可在X上访问，尽管该平台声明对儿童性虐待材料采取零容忍政策。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。