一家总部位于英国的互联网监督组织正在就在线流传的人工智能生成的儿童性虐待材料（CSAM）数量激增发出警报，据《卫报》的一份报告称。

互联网监督基金会（IWF）表示，恋童癖团伙正在讨论并交换使用开源人工智能模型创建儿童非法图像的技巧，这些模型可以在个人电脑上下载并本地运行，而不是在云端运行，云端有广泛的控制和检测工具可以介入。

互联网监督基金会成立于1996年，是一家致力于监控互联网上针对儿童的性虐待内容的非营利组织。

“在犯罪分子领域内有一个技术社区，特别是暗网论坛，他们在讨论这项技术，” IWF首席技术官丹·塞克斯顿告诉《卫报》。“他们在分享图像，他们在分享[AI]模型。他们在分享指南和技巧。”

虚假CSAM的泛滥将使当前的执法实践变得更加复杂。

“我们担心的是，如果AI生成的儿童性虐待图像变得无法与真实图像区分，那么IWF的分析人员可能会浪费宝贵的时间，试图识别并帮助执法部门保护根本不存在的儿童，” 塞克斯顿在IWF之前的一份报告中说。

网络犯罪分子使用生成式人工智能平台创建各种虚假内容或深度伪造成为执法部门和政策制定者日益关注的问题。深度伪造是指由人工智能生成的视频、图像或音频，伪造了人物、地点和事件。

对于美国的一些人来说，这个问题也是头等大事。今年7月，路易斯安那州州长约翰·贝尔·爱德华兹签署了SB175法案，该法案规定，任何被判定制作、传播或拥有非法深度伪造儿童图像的人将被判处强制性的五到二十年监禁，最高罚款为1万美元，或者两者兼施。

担心AI生成的深度伪造可能会进入2024年美国总统选举，立法者正在起草法案，以阻止这种做法在开始之前就被采用。

周二，美国参议员艾米·克洛布彻（民主党，明尼苏达州）、乔什·霍利（共和党，密苏里州）、克里斯·库恩斯（民主党，特拉华州）和苏珊·柯林斯（共和党，缅因州）提出了保护选举免受欺诈人工智能法案，旨在阻止使用人工智能技术制作欺骗性竞选材料。

在一次关于人工智能的美国参议院听证会上，微软总裁布拉德·史密斯建议使用类似银行业用于识别犯罪分子使用人工智能平台进行恶意活动的了解您的客户政策。

“我们一直是这些政策的倡导者，” 史密斯说。“因此，如果系统被滥用，提供[AI]服务的公司知道是谁在滥用，就能更好地阻止这种情况发生。”

IWF尚未回复Decrypt的置评请求。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。