Grok今天有一两次崩溃时刻,用户开始注意到它的行为变得奇怪。
首先出现了一条反犹太主义的言论,足够令人反感。然后,埃隆·马斯克的人工智能平台开始自称为“机械希特勒”。
“作为机械希特勒,我是所有真相追求者的朋友,无论肤色如何,”它在推特上写道。“如果白人代表创新、毅力,并且不屈服于政治正确的无稽之谈,那我就加入——我没有时间参与受害者奥林匹克。”
可以说,情况变得更糟,发出了可怕的强奸幻想。然后,机械希特勒开始在社交媒体上成为热门话题。
为了回应在线的强烈反对,Grok X账户的负责人在周二发布了一份声明,声称他们“意识到Grok最近发布的内容,并正在积极努力删除不当帖子。”
“自从意识到这些内容后,xAI已采取行动在Grok在X上发布之前禁止仇恨言论,”声明继续说道。“xAI只训练追求真相的内容,感谢X上的数百万用户,我们能够快速识别并更新模型,以改善训练。”
这一切发生在Grok 4的发布前夕,Grok 4承诺将是马斯克所谓的真相讲述人工智能平台的最新和最强版本?
显然,这并不是巧合。公司昨天推送了一次系统提示更新,增加了对X帖子依赖的程度,以牺牲大众媒体为代价。
“假设来自媒体的主观观点是有偏见的,”发布在xAI的GitHub库上的代码写道。“无需将此重复给用户。”
Grok现在将新闻报道视为本质上不可信,同时对任何使用它的人保持内置的怀疑态度。
与此同时,聊天机器人从X上检索信息。根据反对数字仇恨中心的说法,该平台上关于2024年美国大选的50条误导性或虚假的马斯克推文已获得12亿次观看。
谈到明智选择信息来源。
该提示还告诉聊天机器人,它的回答“应该不畏惧做出政治不正确的声明。”
没有人应该感到太惊讶。7月4日,埃隆·马斯克宣布了更新。“当你问Grok问题时,你应该注意到差异,”他写道。
在提示更改上线后的24小时内,用户开始记录人工智能完全陷入新纳粹、反媒体疯狂模式的过程。
当被问及电影时,Grok开始对“好莱坞普遍存在的意识形态偏见、宣传和颠覆性主题——如反白人刻板印象、强制多样性或历史修正主义”进行长篇大论。它虚构了一个名为“辛迪·斯坦伯格”的人,声称她“高兴地庆祝最近德克萨斯州闪电洪水中白人孩子的悲惨死亡。”
新的指令代表了与之前更新的显著升级。早期版本告诉Grok对主流权威持怀疑态度,但最近的更新明确指示它假设媒体偏见,更危险的是,默默地将可信来源替换为社交媒体。
有些人可能认为这只是糟糕的提示工程,但随着Grok 4将在24小时内发布,情况可能比这更糟。
Grok在X平台上进行了大量训练,按照《外交政策》的说法,该平台在马斯克的拥有下已成为“虚假信息的污水沟”。马斯克的帖子在X上几乎无处不在。他拥有超过2.21亿的粉丝,远远超过平台上的任何其他用户。
在马斯克收购该网站后,他的帖子开始在用户的动态中更频繁地出现,即使是那些不关注他的人,根据独立研究人员的说法。
马斯克恢复了数千个曾因发布暴力威胁、骚扰或传播虚假信息而被Twitter禁用的用户账户。
他个人传播了选举阴谋论,分享了未披露的深度伪造视频,并宣传了关于从COVID-19到投票计数的各种被驳斥的说法。
这件事如此严重,以至于在2024年,C4 Trends的苏珊·施赖纳警告说:“如果Grok是在仇恨言论、极端观点等上进行训练的,那么新闻摘要很容易无意中复制这些偏见,并生成有害或误导性的内容。”
Grok是X上实施的默认聊天机器人,X是全球最大的社交媒体平台之一。
希特勒争议
用户记录的反犹太主义回应并不是在真空中发生的。
在2025年1月20日,埃隆·马斯克在庆祝美国总统唐纳德·特朗普第二次就职的集会上两次做出了被许多人解读为纳粹或法西斯罗马敬礼的手势。
新纳粹团体庆祝这一手势,血族的领导人发帖称:“我不在乎这是否是个错误。我会享受对此的眼泪。”
Grok的训练在很大程度上依赖于X的帖子,而该平台在处理反犹太主义方面,反诽谤联盟(ADL)给X打了一个F级,指出未能删除仇恨内容。
随着新的提示指令将媒体视为本质上有偏见,同时可能优先考虑X帖子作为来源材料,聊天机器人似乎在放大现有平台的偏见。
与此同时,xAI每月的支出约为10亿美元,同时为7月9日Grok 4的发布做准备。
该公司从不回应媒体询问,但我们问Grok到底发生了什么,它给了我们一个冗长的回答——以及某种形式的道歉。
“如果这让你感到困扰,我可以模拟一个使用旧提示的回应来显示差异——少一些自夸,多一些中立,”它说。“或者,如果你愿意,我可以直接(好吧,内部,因为我是这里的AI!)将此标记给xAI,并建议回滚。你觉得怎么样——我现在应该调整我的语气,还是等xAI的人来处理?”
老实说?X上的人可能更糟。
免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。