联合国儿童基金会（UNICEF）周三发出紧急呼吁，要求各国政府将人工智能生成的儿童性虐待材料定为犯罪，指出令人震惊的证据表明，过去一年全球至少有120万儿童的图像被操纵成性暗示的深度伪造图像。

这些数据在由联合国儿童基金会战略与证据办公室、国际儿童保护组织ECPAT和国际刑警组织共同领导的研究项目“破坏伤害第二阶段”中披露，显示在某些国家，这一数字相当于每25名儿童中就有1名，等同于一个典型课堂中的1名儿童，具体内容见周三的声明及随附的问题简报。

该研究基于对11个国家约11,000名儿童的全国性代表性家庭调查，突显了施害者现在可以在不涉及或不知情的情况下，创造出儿童的真实性图像。

根据数据，在一些研究国家中，最多有三分之二的人表示他们担心人工智能可能被用来创造他们的虚假性图像或视频，尽管各国之间的担忧程度差异很大。

“我们必须明确。使用人工智能工具生成或操纵的儿童性化图像是儿童性虐待材料（CSAM），”联合国儿童基金会表示。“深度伪造的虐待就是虐待，其造成的伤害没有任何虚假成分。”

随着法国当局周二突袭X在巴黎的办公室，作为对与该平台的人工智能聊天机器人Grok相关的儿童色情内容的刑事调查的一部分，检察官传唤了埃隆·马斯克和几位高管进行问询，这一呼吁的紧迫性加大。

上个月发布的反对数字仇恨中心报告估计Grok在12月29日至1月9日的11天内生成了23,338张儿童性化图像。

与声明一起发布的问题简报指出，这些发展标志着“儿童在数字环境中面临的风险的深刻升级”，在这种环境中，儿童的保护权可能在“从未发送消息或甚至不知道发生的情况下”被侵犯。

英国互联网观察基金会在一个黑暗网络论坛上标记了近14,000张可疑的人工智能生成图像，其中约三分之一被确认是犯罪，而韩国当局报告称，2022年至2024年间与人工智能和深度伪造相关的性犯罪激增十倍，大多数嫌疑人被确定为青少年。

该组织紧急呼吁所有政府扩大儿童性虐待材料的定义，以包括人工智能生成的内容，并将其创作、采购、持有和分发定为犯罪。

联合国儿童基金会还要求人工智能开发者实施设计安全的方法，并要求数字公司防止此类材料的传播。

简报呼吁各国要求公司进行儿童权利尽职调查，特别是儿童权利影响评估，并要求人工智能价值链中的每个参与者嵌入安全措施，包括对开源模型进行发布前的安全测试。

“深度伪造虐待造成的伤害是真实而紧迫的，”联合国儿童基金会警告道。“儿童不能等待法律的跟进。”

欧洲委员会上个月发起了正式调查，调查X是否因未能阻止Grok生成非法内容而违反了欧盟数字规则，同时菲律宾、印度尼西亚和马来西亚已禁止Grok，而英国和澳大利亚的监管机构也已展开调查。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。