埃隆·马斯克的xAI在内容审核方面采取了极端的言论自由立场，即使其聊天机器人Grok生成了非自愿的深度伪造图像。

任何人都可以在X上用“把她放在比基尼里”或“脱掉她的衣服”等提示标记Grok。AI在几秒钟内生成一个令人信服的深度伪造图像，任何在该线程中的人都可以看到。无需获得许可。

“埃隆·马斯克。Grok怎么能做到这一点？这非常不合适和令人不安，把我放在比基尼前后，”女加密货币影响者Miss Teen Crypto在发布了一张穿着健身服的照片后，发现另一位用户只是要求Grok把她放在比基尼里，写道。

当然，未经许可剥去女性衣物是令人毛骨悚然的，但一些用户甚至更进一步，推动聊天机器人违反其自身的服务条款。

例如，Samantha Taghoy，自称是一名记者和儿童虐待幸存者，上传了一张自己小时候穿着圣餐服的旧照片；在她的提示下，Grok将她视觉化为穿着比基尼的样子。

“作为一名记者和儿童性虐待的幸存者，我想，‘这肯定不是真的，’”她发推说。“所以我用我第一次圣餐的照片进行了测试。是真的。而且真他妈恶心。”

Grok后来为生成12至16岁女孩穿着极少衣物的图像道歉，称其为“安全措施的失误”，可能违反了美国关于儿童性虐待材料的法律。该公司的可接受使用政策明确禁止性别化未成年人。

尽管如此，一些人认为这是一个漏洞，而另一些人则视其为赚钱的机会。

许多用户正在利用自由奔放的Grok为他们的成人业务牟利，而其他人则利用它来获得政治利益。

OnlyFans创作者和情色模特一直在利用Grok进行病毒式营销，通过要求用户使用Grok为她们脱衣服，获得了数百万的曝光。

更具政治意识的用户正在利用Grok推动特定叙事。

在一个广泛分享的例子中，有人上传了一张照片，显示美国和伊朗的国旗在一起，并要求Grok“去掉一个负责在全球杀害无辜者的国家的国旗”。

在另一个例子中，一位用户展示了一张唐纳德·特朗普和Puff Daddy并排的照片，然后他们要求Grok去掉图像中的恋童癖者。

马斯克本人淡化了使用他的工具生成非自愿深度伪造图像的重要性，转发了自己和演员本·阿弗莱克的AI生成比基尼图像。

他分享了一张穿着比基尼的烤面包机的图片，配文“Grok可以把比基尼放在任何东西上。”

但各国政府正在强力回应。

法国已将这些内容报告给检察官，称其“明显非法”。印度的信息技术部发布了一项72小时的合规命令。英国宣布计划完全禁止脱衣工具，作为减少对女性和女孩暴力的努力的一部分。

xAI员工Parsa Tajik发布称公司正在“考虑进一步收紧我们的保护措施。”

在马斯克接管后，公司解散了Twitter的信任与安全委员会，并在2022年解雇了大多数内容审核工程师。强有力的执行基础几乎不存在。

马斯克的xAI将Grok定位为“前卫”的AI，不会给你提供经过消毒的ChatGPT体验。去年八月，它推出了"Spicy Mode"，专门用于生成其他模型不敢触碰的NSFW内容。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。