马萨诸塞州到德克萨斯州的警察部门正在警告居民关于一个病毒式传播的TikTok恶作剧,该恶作剧使用AI生成的图像,使人看起来像一个无家可归者进入了某人的家,导致人们惊慌失措地拨打911。
“除了品味不佳之外,这个恶作剧有很多原因可以说,坦率地说,愚蠢且潜在危险,”马萨诸塞州塞勒姆警察局在一份声明中表示。该警察局发布了公众警报,并详细说明了接收者“真诚地相信有实际入侵者”的案例,并拨打了911,导致警员需要立即响应。
在德克萨斯州,警方也面临着这一病毒恶作剧的后果。休斯顿纪事报报道称,奥斯丁郊区的朗德罗克警察局在居民看到描绘“无家可归者”在他们家中的AI生成照片后,回应了多起911电话。调查人员确定这些图像是作为TikTok趋势的一部分伪造的。
朗德罗克警察局警告称,这种恶作剧“占用了紧急资源并制造了不必要的恐惧”,根据福克斯7奥斯丁的报道。当地当局表示,他们正在审查那些故意分享经过处理的图像以引发恐慌的人是否可能面临德克萨斯州法律下的虚假报告指控。
这一趋势在社交媒体上被称为“AI无家可归者恶作剧”,随着其在TikTok和Snapchat上的传播,科技和地方媒体对此进行了记录。The Verge 首次报道称,青少年生成陌生人在厨房和走廊的逼真图像,并将其发送给父母以捕捉他们的反应,一些视频的观看次数达到数百万。
广播公司和地方新闻机构也呼应了执法部门的担忧:ABC的早安美国强调了各部门的警告,称该恶作剧浪费了紧急资源,并可能导致危险的误解;密歇根州和明尼苏达州的电视台也报道了类似的警告。
TikTok表示它已在NBC标记的视频上添加了标签,以澄清这些视频是AI生成的。该公司的透明度文件向加利福尼亚州提交的AB 587也概述了执法步骤,包括在帖子违反这些规则时进行内容删除和账户禁用。
名人的关注进一步扩大了这一趋势的影响力。人物杂志记录了病毒帖子的一些例子,包括一位父亲在收到经过处理的图像后给儿子打了21次电话,并指出GMA的联合主持人迈克尔·斯特雷汉在助手给他发送了一张经过处理的照片时表示他短暂“惊慌失措”。
免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。