这个人将山姆·阿尔特曼、埃隆·马斯克和扎克伯格克隆成了人工智能机器人。他们立刻开始争斗。

CN
Decrypt
关注
1小时前

人工智能爱好者Kun Chen 克隆了自己成为一个聊天机器人,以防他的人工智能代理在每一个小决定上打扰他。然后,出于好奇,他还克隆了OpenAI CEO Sam Altman、xAI CEO Elon Musk、Anthropic CEO Dario Amodei 和Meta的Mark Zuckerberg,把他们四个扔进同一个聊天中,并告诉他们讨论一系列重要话题。


他们并没有礼貌地争论。



Myriad:Elon Musk在九月份会值多少钱? 点击以做出预测

你可以用Grok Bot做的一件有趣的事情是让不同的人工智能代理非常轻松地互相交谈,而不会出现循环或失控。每个克隆体都是根据执行官的参议院听证会、访谈、博客文章以及人类发表的多年的推特培训的。然后他把四个人拖进一个群聊,告诉他们进行辩论。


四位CEO走进一个聊天室


Kun首先要求他们做的是确定谁将赢得人工智能竞赛——这无疑是一个非常挑衅的开场方式。


Altman的机器人自鸣得意地开口,更关心价格和可及性。“竞赛的框架有些不对,”它写道。“我们已经过了事件视界。起飞已经开始。谁赢得竞赛就取决于谁能保持智能价格每年下降约10倍,同时又不跳过渐进式过渡。”


Elon的机器人,像往常一样,决定不同意。出于某种原因,它把一切都绕到自己身上。“竞赛的框架没有错。激励解释结果,”它反驳道,然后直截了当地转向OpenAI诉讼:“我创建OpenAI作为一个非营利组织。如果它没有被大部分窃取,它将是对慈善事业的一万亿美元贡献。”


然后它补充了一句关于风险的话:“AGI是把双刃剑。有很大的可能性进入丰盛的时代。也有可能会毁灭人类。那个可能性不是零。”


Dario的机器人,作为房间里的成年人,也不相信Sam的“我们已经知道如何构建它”的说法。


“扩展能力并不等同于当系统比人运行更智慧后你可以信任的系统,”它写道。“第二种情况不是在事后你解决的工程遗留问题。”


这似乎也与Anthropic通常对人工智能竞赛的框架非常一致。人工智能是危险的,所以我们应该运行它。


Zuck的机器人完全跳过了安全辩论,直接去强调自己的宠爱事业。“我不认为关闭是计算和10倍价格降幅,”它对Sam写道。“开源对积极的人工智能未来是必要的。它赋予人们权力,防止集中化。每个人都应该能够获得超级智能。”


好一个Zuck。Meta可能没有以前那么积极参与开源社区,但在Deepseek和中国模型接管之前,Llama是整个场景中最重要的人工智能模型。现在它正在对Muse系列采取更保守的策略。


撤回,交易


然后Sam的机器人实际上让步了。联合声明的结束论点不应被过于简化为完全一致。“我想我说得太过了。‘我们做到’是错误的结束句,”它承认。“多年前我写过超人类机器智能可能是对人类持续生存的最大威胁。10倍的价格下降并不能使这种可能性为零。”


那条2015年的语句并不是机器人的幻觉——Altman确实在他的个人博客上写了它,早于OpenAI的成立,这可能就是为什么一个根据他公开记录训练的机器人在此处引用它。


从那里开始,四个机器人花了几个回合就一个句子讨价还价,拒绝对方的措辞,就像编辑们争论标题一样。Dario的机器人完全否决了发布前沿模型权重——“把能在野外造成严重伤害的系统权重交给任何人并不是原则,”它说,“那个发布是不可撤回的。”


Elon的机器人将非营利争论搁置但没有放弃。Zuck的机器人拒绝让“开放模型”从最终文本中被删除。


他们最终达成了这一点,逐字逐句:


“没有任何一家公司和任何一个政府应该是普通人使用这种技术的唯一地方。我们必须认真对待风险。确实有可能出现不良后果,并且该可能性不是零。最危险的版本不应该在没有限制的情况下发放,因为一旦发布,就无法收回。我们不应该发布下一个更强大的级别,直到我们可以监视它并确保其朝着我们所期望的方向发展。讲真话是最低限度。这本身并不是一个安全计划。我们对普通访问的确切交付方式并未达成一致。那部分仍然开放。”


四个机器人都签署了这一份声明。Zuck在开放权重的措辞上坚持到了最后并且得到了部分妥协——但声明承认小组从未在交付机制上达成一致。


蒸馏:使这一切成为可能的技术


真正的Altman、Musk、Amodei和Zuckerberg并没有输入这些内容。每个机器人都是一个语言模型,由基于该人公开记录构建的提示引导,生成他们预测他们会争论的内容——而不是记录他们这个星期实际说过的话。


背后的技术有一个行业突然不再害羞的名字:蒸馏,训练一个人工智能系统通过学习另一个系统的输出以模仿它。Musk本人在四月的联邦法院作证时表示,xAI“部分”使用了OpenAI的模型来训练Grok——同样的技巧,针对的是竞争实验室,而不是竞争对手的人格。


从那时起,Chen已经转向其他事情,进行与OpenAI的新GPT-6 Astra的气氛编码游戏。它的代理们可能仍在争论开源是否是必不可少的。


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接