记者 Karen Hao(凯伦·豪)谈 OpenAI 帝国:AGI 的准宗教狂热与民主危机

CN
2小时前

撰文:Techub News 整理

导语

在独立新闻节目《Democracy Now!》的专访中,资深科技记者、《麻省理工科技评论》前 AI 记者凯伦·豪(Karen Hao)分享了其新书《AI 帝国:萨姆·奥尔特曼 OpenAI 的梦想与梦魇》的核心发现。她以 2019 年深度探访 OpenAI 的经历为起点,揭示了这家公司如何从一个标榜“非营利”和“造福全人类”的研究实验室,演变为一个追求“通用人工智能”(AGI)并深刻影响全球政治、经济与环境的“帝国”。本次对话深入探讨了 AGI 概念的“准宗教”性质、AI 发展对就业与民主的冲击、中美 AI 竞争格局的演变,以及来自全球社区对科技巨头的抵抗。

摘要

  • AGI 是一种“准宗教”信念:OpenAI 及其追随者将 AGI 视为必然且即将到来的“神迹”,但这种信念缺乏科学证据,并分裂为“末日派”和“繁荣派”,两者都主张由少数精英控制技术。
  • AI 发展路径选择:替代劳动 vs. 辅助劳动:以 OpenAI 为代表的硅谷公司,其商业模式核心是开发“替代劳动”的技术以削减成本,而非创造“辅助劳动”的工具来提升人类工作质量与社会福祉。
  • “不惜一切代价扩张”的帝国模式带来多重危机:AI 竞赛导致对计算资源、能源、土地和数据的疯狂攫取,引发环境破坏、社区资源被剥夺、全球人才流失,并侵蚀民主决策的基础。
  • 中国 AI 的“创新突围”挑战硅谷叙事:在美国出口管制下,中国公司如深度求索(DeepSeek)以极低的计算成本实现了可与美国媲美的 AI 能力,证明了硅谷“唯有巨大算力才能进步”的路径并非唯一。
  • 社区抵抗与小规模 AI 的替代愿景:从新西兰毛利语保护到智利水资源抗争,全球社区正在通过法律、工会和公众舆论等方式反击,并展示了基于小规模、高 curated 数据、服务于特定社区需求的 AI 发展可能性。

OpenAI 的“准宗教”使命与帝国构建

凯伦·豪指出,OpenAI 的成功很大程度上源于其精心构建的“准宗教”使命。创始人萨姆·奥尔特曼(Sam Altman)在 2013 年的一篇博客中曾引用并认同这样一句话:“成功的人建立公司,更成功的人建立国家,最成功的人建立宗教。”他随后反思道:“在我看来,建立宗教的最佳方式实际上是建立一家公司。”这为理解 OpenAI 的运作提供了关键线索。

豪解释道,当奥尔特曼决定成立一个能与谷歌等巨头竞争的人工智能研究实验室时,他意识到自己无法在资金和先发优势上取胜。于是,他选择了一个非营利架构,并赋予其一个极其崇高且模糊的使命:“确保通用人工智能(AGI)造福全人类。”这个使命本身成为了一个强大的“钩子”,用以吸引顶尖人才、获取公众好感并建立品牌。然而,AGI 在当时乃至现在,都是一个缺乏明确定义和科学共识的概念,更多是基于一种信念——即人类智能本质上是可计算的,只要有足够的数据和算力,就必然能复现。

OpenAI 内部吸收了一小群“自我认同的 AGI 信徒”。这些人分裂为两大阵营:“繁荣派”(Boomers)相信 AGI 将带领人类进入乌托邦;而“末日派”(Doomers)则坚信 AGI 将毁灭人类。讽刺的是,两派都基于同一个信念——AGI 是可能的且即将到来,并由此得出同一个结论:必须由他们(而不是大众)来控制这项技术,不能将其民主化。这种内部关于技术开发与发布速度的激烈冲突,也部分导致了后来奥尔特曼被董事会短暂罢免又复职的戏剧性事件。

豪强调,这种“准宗教”性质使得 OpenAI 能够按照自身最便利的方式去塑造 AGI 的定义和开发路径,而无需接受严格的科学验证或公众质询。其定义的 AGI 是“在大多数具有经济价值的工作中超越人类的高度自主系统”。这实质上明确将“自动化人类工作”设定为目标,而非提升人类能力。

替代劳动 vs. 辅助劳动:被选择的AI发展路径

凯伦·豪犀利地指出,当前以 OpenAI 为代表的硅谷 AI 发展模式,核心是“替代劳动”而非“辅助劳动”。她援引麻省理工学院经济学家达龙·阿西莫格鲁(Daron Acemoglu)和西蒙·约翰逊(Simon Johnson)的著作《权力与进步》中的观点:技术革命走向“替代劳动”并非不可避免,而是掌权者选择的结果。

“这些公司向企业高管推销时说:‘你可以通过裁掉所有这些工人并使用我们的 AI 服务来压缩成本。’”豪说道。这种商业模式已经对就业产生了切实影响:并非因为技术本身足够成熟,而是因为高管们“认为”它可以替代人力,从而开始裁员

然而,历史研究和现实案例表明,“辅助劳动”的 AI 工具往往能带来更好的社会结果。例如,开发供医生使用的 AI 诊断工具,而非试图取代医生,能带来更好的医疗效果和癌症诊断率。开发供教师使用的 AI 教学助手,而非取代教师的 AI 家教,能带来更好的教育成果。但硅谷公司倾向于开发“万能机器”,并将其定位为可以取代专业工作者(如治疗师)的工具,尽管这可能导致严重的医疗错误信息传播和心理伤害,甚至已有儿童因与聊天机器人建立情感依赖后自杀的悲剧案例。

豪认为,我们需要更多的“护栏”来引导公司转向开发“辅助劳动”的技术,但这与当前追求利润最大化和市场垄断的资本逻辑相悖。

帝国的代价:资源攫取、环境危机与民主侵蚀

为了支撑对 AGI 的狂热追求和巨大的算力需求,OpenAI 等公司正在全球范围内疯狂攫取资源。豪引用 OpenAI 员工的话说:“我们正在耗尽土地和电力。”这驱使奥尔特曼积极游说美国政府,并与中东等资源丰富的地区达成协议,以获取土地和能源来建设庞大的数据中心。

这种扩张带来了严重的环境和社会代价。豪提到了两个典型案例:一是埃隆·马斯克(Elon Musk)的 xAI 在田纳西州孟菲斯建设的“巨像”(Colossus)超级计算机,用于训练 Grok 聊天机器人。该设施由大约 35 台未获得许可的甲烷燃气涡轮机供电,向孟菲斯社区排放了数千吨有毒空气污染物,而该社区本就长期缺乏清洁空气这一基本人权。二是Meta 在新墨西哥州以壳公司“大捻角羚有限责任公司”(Greater Kudu LLC)的名义秘密推进数据中心建设,直到交易完成、居民无法反对时才亮明身份,该项目将消耗当地大量淡水。

面对高能耗的批评,奥尔特曼在国会作证时提出的解决方案是:短期更多使用天然气,中期希望依靠先进的核裂变和核聚变。豪对此深感忧虑,她指出,这些公司正在反复援引核能作为“终极解决方案”,并游说政府放松核电站建设的监管框架,这是“快速行动,打破陈规”意识形态在关键基础设施领域的危险延伸。

更根本的危机在于对民主的侵蚀。豪指出,硅谷在过去十年中成功让公众觉得,那些本属于集体共有的资源——如个人数据、艺术家的知识产权、社区的土地和水源、学校和医院——都“理应”为科技公司所用。OpenAI 甚至推出了“国家版 OpenAI”计划,声称要在全球安装其硬件和软件作为“民主 AI 的轨道”,以阻止中国部署“威权 AI”。但《大西洋月刊》执行编辑一针见血地指出,这些公司本身就是“技术威权主义者”,他们从不征求公众关于如何开发技术、使用何种数据、在哪里建设数据中心的意见。

“AI 正在威胁民主,”豪总结道,“如果世界上大多数人都感到失去了决定自己未来的能动性,民主就无法生存。”

中美 AI 竞争:叙事颠覆与人才逆流

凯伦·豪长期关注中美 AI 发展,她提供了一个颠覆硅谷主流叙事的视角。过去几年,美国政府在美国科技公司的建议下,通过对最尖端计算芯片(主要由英伟达设计)实施出口管制,试图遏制中国 AI 发展,保持自身领先。

然而,结果出乎意料。中国拥有强大且密集的 AI 研究人才库。在计算资源受限的情况下,中国公司反而被迫创新,以低得多的成本实现了与美国公司相当的 AI 能力。豪重点提到了中国公司深度求索(DeepSeek)今年初发布的模型。该公司表示,训练该模型的成本仅为约 600 万美元,而 OpenAI 训练模型的成本动辄数亿甚至上百亿美元。这个数量级的差距向世界表明,硅 Valley 鼓吹的“唯有巨大算力才能提升 AI 能力”的路径并非唯一真理。深度求索使用的技术大多已存在于学术文献中,他们通过高超的工程能力将其整合,并未使用根本性的新技术。

这一成就的背后,是美国自身政策导致的人才“逆流”。豪回顾道,最初有更多中国研究人员在美国工作,为美国 AI 做贡献。但“中国行动计划”(China Initiative)等政策开始将华裔学者(甚至美国公民)刑事化,指控他们为间谍。随后,疫情、贸易摩擦和反华言论加剧,以及现在特朗普政府可能禁止国际学生(特别是中国学生)的政策,促使越来越多的中国顶尖人才选择留在国内,贡献于中国的 AI 生态系统。深度求索的成功,正是这种人才集聚和 alienation(疏离)政策的直接产物。

豪警告,这种趋势正在加速美国的“脑流失”。不仅是中国研究者,连美国本土学者也因公共资金削减等原因考虑前往欧洲,而欧洲国家正趁机提供巨额资助和实验室,吸引全球人才。

抵抗与希望:社区能动性与小规模 AI 的愿景

尽管描绘了一幅严峻的图景,但凯伦·豪在书中也记录了全球各地的抵抗运动,并提出了替代性的 AI 发展愿景。

她讲述了一个鼓舞人心的案例:新西兰的非营利毛利电台 Te Hiku Media。为了复兴濒危的毛利语,他们希望将祖先的录音音频转录成文字,作为学习资源。在缺乏熟练转录员的情况下,他们决定求助 AI。但他们的做法与硅 Valley 截然不同:首先征求社区同意,然后明确解释数据用途并获取完全知情同意,仅用社区捐赠的几百小时高质量音频数据,就训练出了一个性能优异的语音识别模型。这个模型随后被开源,服务于社区的语言复兴目标。

这个案例证明了几个关键点:小规模、精心筛选的数据集可以训练出强大的 AI 模型;社区主导、知情同意的数据收集是可行的;AI 可以服务于具体、真实的人类需求,而非模糊的“通用”目标。

豪看到,从艺术家起诉公司侵犯知识产权,到智利水资源保护者抗争保卫淡水,再到为 OpenAI 做数据标注的肯尼亚工人组织工会并诉诸国际媒体,全球各地看似弱势的社区正在重新夺回他们的“能动性”。他们意识到,数据、土地、水资源、学校和医院都是民主博弈的场域,不能轻易让渡。

“最终我意识到,夺回民主的第一步,是记住没有人能夺走你的能动性。”豪总结道。她的愿景是未来出现更多小型、任务特定、基于高质量小数据集的 AI 模型,它们只需少量计算资源,并能真正用于应对人类面临的挑战,如将更多可再生能源并入电网以缓解气候变化,或进行药物发现以改善医疗保健。这,是与“不惜一切代价扩张”的帝国模式截然不同的道路。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接