关于人工智能的新书称“每个人都会死”，领先的聊天机器人不同意

这听起来可能像是一部好莱坞惊悚片，但在他们的新书《如果有人建造它，所有人都会死》中，作者埃利泽·尤德科夫斯基和内特·索亚斯认为，如果人类创造出比自己更聪明的智能，生存不仅不太可能——而且将是不可避免的。

作者们认为，今天的系统不是逐行设计的，而是通过训练数十亿个参数“生长”而成的。这使得它们的行为变得不可预测。

作者警告说，随着智能的扩展，自我保护或寻求权力等驱动可能会独立出现。他们表示，如果这样的系统超出了人类的控制，灭绝将是默认的结果。

他们称当前科技巨头和政府之间为了构建越来越大模型的竞赛为“自杀竞赛”。不需要恶行，只需无能。

为什么这很重要

这本书在人工智能社区中引发了分歧。

一些AI末日论者认为，除非人类停止或大幅放慢进展，否则灭绝是不可避免的结果。加速主义者则反驳说，推动进展可能会在医学、科学和经济学上带来突破，而放慢进展则会带来更大的危险。

尼克·博斯特罗姆的《超级智能》十年前首次提出了生存的存在性论点。尤德科夫斯基和索亚斯将其锐化为警报呼声。

但批评者担心，过于关注灭绝会分散对已经存在的危害的注意：偏见、裁员、监视和虚假信息。

AI模型的看法

由于这本书谈论的是它们，我们询问了领先的AI模型对其的看法。

据我们所知，目前没有大型语言模型（LLM）实际阅读过这本书，因此以下评论基于这些平台对它们所插值的评论的解读。

ChatGPT

OpenAI的ChatGPT将这本书视为一种有用的挑衅，而不是预言。

“这本书作为一种视角转变的工具是有价值的，即使你认为它过于夸张，”这款聊天机器人回应道。“它加深了对对齐和意外后果的直觉理解。但将其最坏情况视为不可避免，忽视了未来架构、法规和约束的不可确定性。”

ChatGPT表示，未来AI发展的模型取决于架构如何演变以及什么样的监管、社会或技术保护措施出现。

“这种不确定性意味着我不会将他们的最坏情况视为不可避免，”ChatGPT嗤之以鼻。

Gemini

谷歌的Gemini将这本书视为一本令人恐惧但又能澄清思路的读物，即使其提出的解决方案似乎不切实际。

“这本书对于理解AI风险的极端边界至关重要，”Gemini说。“它提出的解决方案——完全关闭——在政治上是不可实现的，但这个警告可以激励在安全和控制技术上的投资，以便在我们达到不可逆转的地步之前。”

Gemini表示，这本书定义了超级智能的极端风险，这反过来有助于为今天的强有力（尽管不那么激进）的安全措施提供合理性。

Claude

Anthropic的Claude则更加怀疑，这很有趣，因为在领先的LLM中，Anthropic通常被认为是最注重安全的。但Claude将这本书的语气描述为“过于自信”，其框架则过于二元化。

“作者正确地识别了真实的风险，但他们的确定性显得过于自信，”Claude说。“他们忽视了AI安全研究的进展，并将问题框架化为完美与灭绝之间的二元对立。这使得他们的信息显得不够建设性。”

虽然他们的警告突显了值得投入大量资源和谨慎对待的重要风险，但Claude表示“人人都死”的框架似乎更像是为了吸引注意，而不是准确地反映所涉及的复杂不确定性。

“这些风险足够严重，值得认真对待，而不需要接受他们关于不可避免灾难的主张，”这款AI说。

Grok

埃隆·马斯克的AI平台也让人感到惊讶，因为他一直在推广Grok作为反主流媒体的AI。

但Grok迅速引用了“《纽约时报》的尖锐评论，\ [称]其论点薄弱或危言耸听。”

“这本书是一个令人震惊的提醒，表明没有智慧的智能是一种负担，而我们还没有任何智慧，”Grok回应道。“也就是说，这对理性主义者来说是末日色情：在其宿命论中令人兴奋，但却低估了人类的适应能力。xAI的精神——好奇心胜过征服——表明我们可以找到平衡：在追求宇宙问题的大胆AI的同时，从第一天起就嵌入安全保障。”

然而，除了这一点，Grok表示“总体而言，对于任何在思考AI未来的人来说，这本书都是一本挑衅且高效的读物——如果你对悲观持开放态度，它引人入胜，但如果你对技术进步持乐观态度，则可能被夸大。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。