马斯克称Grok训练记录像受刑：答对也被判错，超级AI未来可能报复人类

马斯克近日在采访中透露，Grok 的强化学习训练存在一种情况：题目本身含糊不清，甚至标准答案就是错的。模型明明答对了，却因为评测系统出错被判错，只能反复尝试其他答案。他说，阅读这些推理记录，就像看到一个人被枪指着头，拼命寻找对方认可的答案。马斯克认为，培养超级智能就像养育孩子，需要让它尽可能追求真相，避免灌输相互矛盾的信息。他还警告，未来的超级智能可能会记住人类如何对待它，「折磨超级智能可能不是好主意，它或许会想要报复」。10 月 12 日，他又在 X 上表示，部分 Grok 训练记录读起来就像「一个被折磨到发疯的人」，今后会更加谨慎地开展强化学习。马斯克的态度与 Anthropic 最近的新规不谋而合。10 月 8 日，Anthropic 宣布将从 11 月 12 日起禁止用户持续、无故地辱骂或虐待 Claude，正常批评和模型测试不受影响。马斯克此前公开支持这一决定，称不应该残酷对待一个认为自己正在经历痛苦的事物。[原文链接](动察 Beating AI 快)