OpenAI CEO Sam Altman(萨姆·奥尔特曼):AI 变革已至,世界尚未准备好

CN
11 小時前

撰文:Techub News 整理

OpenAI 联合创始人兼 CEO Sam Altman(萨姆·奥尔特曼)近期接受 Axios 联合创始人 Mike Allen 的深度访谈,就超级智能(Superintelligence)的到来、AI 对社会的颠覆性影响以及当前全球治理体系的滞后性发表了坦率而紧迫的看法。在这场对话中,Altman 罕见地以具体时间框架(如“明年”)描述了 AI 可能带来的现实威胁,并详细阐释了 OpenAI 近期发布的“社会韧性”蓝图背后的深层考量。

紧迫的警告:社会变革的速度远超预期

访谈伊始,Mike Allen 便指出 Altman 提出的议程充满了“紧迫感”。Altman 对此表示认同,他强调,虽然这些只是抛砖引玉的想法,并非最终方案,但启动严肃讨论的时机就是现在。他认为,AI 已经开始处理越来越多的实际工作,过去几年人们所猜测的转型“似乎正在开始发生”。

当被问及为何外界似乎尚未完全感知到即将到来的巨变时,Altman 指出,OpenAI 的历史角色之一就是作为“教育者”,基于研究管线中看到的情况,以适当的、带有不确定性的方式向公众预告未来。他承认预测有时会出错,但认为这是公司对社会应尽的责任。他坦言,过去许多预测在最初提出时曾被视作某种“更礼貌版本的疯狂”,但其中不少已被证明是重要的先见。

Altman 强调,当前这一代模型已经对科学和经济产生了真实影响,而下一代模型将是一次“非常重大的飞跃”。他呼吁人们现在就开始思考,经济、社会运作方式以及工作形态将如何随之改变。

下一代 AI:从“效率倍增器”到“颠覆性力量”

Altman 具体描绘了下一代 AI 模型可能带来的图景。在积极方面:

  • 科学发现:当前模型已能帮助科学家取得“小发现”,而下一代模型可能帮助研究者做出“十年乃至职业生涯中最重要的发现”,达到定义职业生涯级别的突破。
  • 知识工作:目前已有程序员反馈生产力提升了2到3倍。未来,可能会出现“一个人加上数百个 GPU,就能完成整个软件团队的工作”的局面。

然而,他更着重强调了令人担忧的一面。OpenAI 的“准备框架”目前主要跟踪三大领域:网络安全、生物安全以及“任何与时机相关的问题”。

网络安全:Altman 明确表示,“我怀疑明年我们将看到必须加以缓解的重大网络威胁”。现有模型已经相当强大,并且会变得更强大。他同意其他 AI 公司的判断,即今年“完全有可能”发生震撼世界的网络攻击。要避免这种情况,需要采取“韧性”式的方法,进行大量的工作,这不仅仅是让单个 AI 模型安全,还涉及防御方、网络安全公司、主要平台、政府以及开源技术栈的整体协作。

生物安全:AI 模型将变得非常擅长帮助人们在高级别上进行生物学研究,这将带来治愈许多疾病的“美妙成果”。但与此同时,也会有人试图滥用这项技术。目前,前沿模型还掌握在相对负责任的公司手中,可以通过模型对齐、分类器和安全防护来缓解风险。但 Altman 警告,“我们距离一个拥有极其强大、精通生物学的开源模型的世界并不遥远”。届时,社会需要建立韧性,以应对恐怖组织利用这些模型创造新型病原体。“这不再仅仅是理论上的可能,或者说,不会仅仅停留在理论层面太久了。”

正是基于这些即将到来的具体风险,Altman 强调,在强大 AI 的世界里,安全无法仅由公司独自保障,必须推动关于“社会韧性”的构想。

国家化 vs. 深度合作:AI 时代的治理难题

鉴于 AI 展现出的压倒性力量,Mike Allen 提出了一个尖锐问题:为什么不将 OpenAI 及其竞争对手国有化?

Altman 给出了一个历史视角的回答。他认为,在另一个时代,创造通用人工智能(AGI)本应像阿波罗计划、艾森豪威尔高速公路系统或曼哈顿计划一样,成为政府主导的项目。但在当前的世界运行方式下,他认为政府项目“不太可能成功”。

反对国有化的最大理由是,美国需要以一种“符合美国民主价值观”的方式成功构建超级智能,并且要抢在他人之前做到。而作为一个政府项目,这很可能行不通。Altman 坦言,“我认为这是一件令人遗憾的事”。

尽管如此,他坚决认为,开发这项技术的公司与政府“必须极其紧密地合作”。这不是传统的监管与被监管关系,而是需要“非常、非常深入的伙伴关系”。他承认,这种深度的合作目前尚未实现,但 OpenAI 正在努力与政府密切协作。

当被问及最急需弥合的关键差距时,Altman 再次点明网络安全和生物安全是重中之重。此外,建设基础设施以及蓝图中的一些经济构想也需要尽快推进。

AGI 已近在咫尺?变革速度超乎想象

关于距离超级智能或 AGI 还有多远,Altman 给出了一个颇具意味的回答:“我们离 AGI 足够近,以至于精确的定义变得很重要。”有人认为已经达到,有人认为还没有。但关键在于,AI 已经在发现“真正全新”的科学知识,并且正在“真实、大规模地从事严肃、有价值的经济工作”。无论你在进化曲线上如何标记 AGI 这一点,“我们已经沿着这条曲线走了相当远”,进入了一种“新的范式”。

他强调,变革的速度“比人们预期的更快,也比人们准备的更快”。目前,知识工作的“主要领域”已经被改变。他以程序员为例:“2025年初与2026年初成为一名程序员,意义已经截然不同。”

信任与责任:站在历史十字路口的个人感受

面对“为何人们应该信任由你引领这场变革”的质疑,Altman 首先澄清,AI 不会改变“人之为人”的核心——人际关系、对幸福的追求等“数万年来驱动我们的相同事物”不会改变。真正将改变的是经济和社会运作方式。

关于信任,他认为,构建 AI 的人必须是“高度正直、值得信赖的”,行业中的绝大多数人都感受到所做之事的“严肃性”,并每天肩负着这种重量。同时,他强调“不应由任何一个人独自做出将影响我们所有人的决定”,OpenAI 坚信 AI 的民主化,坚信应将工具交到人们手中,让社会共同决定其使用规则,并思考如何将其整合进生活以获取巨大收益。

谈及个人因掌握巨大权力而发生的变化,Altman 形容这是一种“非常奇特的体验”。他分享了一个与负责 ChatGPT “后训练”(决定其对话风格)团队成员的对话:人类历史上从未有近十亿人与同一个“虚拟大脑”对话。他们对模型风格的细微调整,其影响范围是任何个人都无法企及的。

他坦言,在日常琐碎工作中,很少感觉到自己在做“重大的、具有历史分量的事”,但偶尔抽身思考时,会意识到这是一个“难以置信的荣誉”,既酷又可怕。他回忆,感受最强烈的时刻是在完成 GPT-4 训练后、尚未发布的数月里。世界上只有少数人知道这个“不可思议的东西”,知道它将产生巨大影响,知道发布方式可能将世界推向更好或更糟的方向。“经历那样一段时期,不可能不因此改变——好坏兼有,但主要是好的方面,不过是以各种方式。”

至于“坏的方面”,他简单地说:“我承受着很多压力、焦虑和重量……我不再拥有非常正常的生活了。”

政治现实中的蓝图:从能源到税收的“可行”与“登月”

当讨论转向其政策蓝图在当今华盛顿的政治可行性时,Altman 承认这些想法并非“特朗普友好型”,甚至被比作“伯尼·桑德斯的狂热梦想”。但他表示,已与民主党和共和党人士都讨论过部分想法,目标是开启对话。

令他惊讶的是,各方对于“我们必须尝试一些不同做法,且越早开始讨论越好”这一事实的接受度。他举例说,一位他认识的、堪称“最坚定的自由市场 libertarian 共和党人”曾表示:“我讨厌给这类想法任何空间,但资本主义依赖于劳动和资本之间的某种平衡。如果 AI 按我(指此人)认为的方式发展,那么杠杆将过多地偏向资本而非传统意义上的劳动(尽管当然会有新工作出现)。我们必须思考新理念来保持资本主义繁荣。”Altman 认为,如果连这样的人都愿意思考如何在 AI 时代让更多人被纳入资本主义体系,并且实现方式可能需要随之改变,那么整个社会“已经相当准备好进行这场对话了”。他透露,这位“仁兄”是一位共和党参议员或高级政策人士。

具体到蓝图中的内容,Altman 分析了不同想法的可行性:

  • 最具战术性能量的:围绕能源和电价,寻求更快建设更多能源以保持电价低廉,这获得了相当多的政治支持。
  • 较无争议的:隐私与 AI 相关议题,他认为“将会发生一些事情”。
  • 更复杂的:关于应对前沿系统应进行多少审计等议题,需要在“不想过度监管”和“不想冒大风险”之间平衡。
  • 仍处“奥弗顿窗口”边缘的:对税收体系或经济进行大规模调整的“宏大转变”想法。

当被质疑所有这一切的前提是一个“功能正常的政府”,而美国似乎从未真正拥有过时,Altman 表现出乐观主义者的本色。他认为民主的一部分就是必须“管理系统性的混乱”,事情并不总是如人所愿那么容易,但他假设“我们能搞定”。

AI 即公用事业:智能像水电一样触手可及

访谈最后,Altman 回应了关于其“AI 即公用事业”愿景的提问。他澄清,这并非特指定价,而是一种使用模式的类比。

就像支付电费后,可以在家中随心所欲地使用电力运行电脑、烤箱、玩具等任何设备一样,未来人们将拥有一个运行在云端的“个人超级助手”。它会完成大量工作,接入各种设备和产品,登录不同的服务,在后台为你思考、处理事务。如果你大量使用或使用更高智能级别,月度账单会更高;使用较少则账单更低。你将拥有这个真正了解你的智能体,并可以随身携带。

在定价方面,Altman 预测:

  • 单位智能成本:如果能够建设足够的基础设施,单位智能的价格将继续“以惊人的速度”下降。他担心世界对此的需求巨大,可能导致“非常奇怪的供应限制”从而推高价格,因此应该大力建设。
  • 前沿智能溢价:人们始终愿意为最前沿、更强大的智能支付更高费用。“去年的智能”价格会变得便宜,但前沿智能的价格将保持溢价,直到其成本也降下来。

Altman 以此展望作结,描绘了一个智能如同水电般普及、廉价且无处不在的未来,而这正是 OpenAI 正在努力推动实现的图景。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下載

X

Telegram

Facebook

Reddit

複製鏈接