旧金山市周四对18个网站和应用程序提起了一项广泛的诉讼，这些网站和应用程序未经授权地生成深度伪造的裸照，涉及无辜受害者。

发布的投诉书中删除了原告的服务名称，针对的是“提供给女性和女孩‘脱衣’或‘裸体化’”的网站和应用程序的“泛滥”。投诉书声称，这些网站在2024年上半年共被访问了2亿多次。

旧金山市检察官邱信德在宣布这起诉讼时表示：“这项调查使我们深入了解了互联网的最黑暗角落，我对不得不忍受这种剥削的女性和女孩感到绝对恐惧。生成式人工智能有着巨大的潜力，但与所有新技术一样，都存在着意想不到的后果和寻求利用新技术的犯罪分子。

邱信德补充道：“这不是创新，这是性虐待。”

尽管像泰勒·斯威夫特这样的名人经常成为这种图像生成的目标，但他指出最近出现在新闻中的加利福尼亚中学生的案例。

市政府的声明称：“这些几乎无法与真实照片区分的图像被用来勒索、欺凌、威胁和羞辱女性和女孩。”

所谓的非自愿亲密图像或NCII的迅速传播已经促使全球各国政府和组织采取行动来遏制这种做法。

投诉书称：“受害者几乎没有任何救济措施，因为他们面临着在这些图像被传播后消除这些图像的重大障碍。他们遭受了深刻的心理、情感、经济和名誉伤害，失去了对自己身体和形象的控制和自主权。”

邱信德指出，更为棘手的是，一些网站“允许用户制作儿童色情作品”。

利用人工智能生成儿童性虐待材料或CSAM尤为棘手，因为它严重阻碍了识别和保护真实受害者的努力。跟踪这一问题的互联网观察基金会表示，已知的恋童癖团体已经接受了这项技术，而人工智能生成的CSAM可能会“淹没”互联网。

路易斯安那州的一项明确禁止使用人工智能生成的CSAM的法律本月生效。

尽管主要科技公司已经承诺在开发人工智能时优先考虑儿童安全，但根据斯坦福大学的研究人员，这类图像已经进入了人工智能数据集。

诉讼要求这些服务支付每次违规2500美元并停止运营，同时要求域名注册商、网络主机和支付处理器停止促进深度伪造图像的创建。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。