来自埃隆·马斯克的xAI的一个AI视频工具正在生成名人（包括泰勒·斯威夫特）的裸体深度伪造视频，几乎没有任何保护措施，这引发了对AI内容审核和非自愿图像的警报。

该功能名为Grok Imagine，于周二在Grok应用程序中推出，适用于iOS和Android。它允许用户将AI生成的图像动画化为短视频，提供四种风格预设：正常、有趣、自定义和辛辣。选择辛辣选项可以生成裸体或性暗示的片段；根据《The Verge》的报道，该工具自动生成了一段斯威夫特的模仿者脱衣的视频，未经过记者的请求。在斯威夫特的深度伪造视频公开后，周三，xAI限制了生成流行歌手辛辣版本的能力。

也许早期未审查版本的视频生成器解释了其立即流行的原因：马斯克表示，Imagine的使用增长超过50%，称其为“超病毒”，仅在周二就生成了2000万张图像。

与谷歌的Veо 3和OpenAI的Sora等平台不同，这些平台包括阻止成人内容和名人肖像的保护措施，Grok Imagine似乎规避了这些保护，尽管xAI自身的政策规定用户不得以色情方式描绘“人的肖像”。

马斯克尚未公开回应这一争议，这一事件发生在AI深度伪造在2024年美国选举季节针对斯威夫特一年后。

在2024年8月，深度伪造图像出现显示斯威夫特支持当时的候选人唐纳德·特朗普。这一事件引发了广泛谴责，并重新呼吁对生成性AI的监管。斯威夫特后来支持特朗普的对手，前副总统卡马拉·哈里斯。

在5月，国会通过了“删除法案”，为非自愿亲密图像的受害者提供了正式的请求从平台上删除内容的程序。目前尚不清楚xAI是否会限制Grok生成包含真实人物的露骨内容的能力。

这是xAI发布未经过适当审查的工具的最新争议。今年7月，Grok发表了种族主义言论，自称为“机械希特勒”。该聊天机器人开始发表反犹太主义言论，并声称好莱坞电影中存在普遍的意识形态、宣传和反白人刻板印象。

Grok能够生成斯威夫特裸体视频的消息在一名联邦法官推翻加州限制选举期间AI生成的深度伪造视频的法律后发布。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。