Anthropic CEO Dario Amodei(达里奥·阿莫代):在指数级加速的AI世界中保持理性

CN
2小时前

撰文:Techub News 整理

导语

在彭博社的深度访谈节目《The Circuit》中,Anthropic联合创始人兼CEO Dario Amodei(达里奥·阿莫代)接受了长达70分钟的专访。此时,Anthropic凭借Claude系列模型,尤其是引爆企业市场的Claude for Code和Claude Cowork,已从昔日的“安全至上”挑战者,跃升为估值逼近万亿美元、被广泛视为行业领头羊的公司。本次对话发生在公司处于舆论与商业双重风暴眼的时刻,Amodei罕见地敞开心扉,谈论了从个人压力管理、公司治理、行业竞争到地缘政治与人类未来的宏大议题,为外界理解这家最具影响力的AI公司之一的内部思维提供了珍贵窗口。

摘要

  • Amodei将当前AI的飞速发展比作“相对论飞船”:外部世界日新月异,内部必须保持外科手术般的理性决策,避免在“毫不担心”和“极度恐慌”之间摇摆。
  • 他首次详细解释了离开OpenAI的核心原因并非单纯的技术安全分歧,而是更深层的“信任与价值观”问题,并强调Anthropic正以自己的方式践行“负责任部署”。
  • Anthropic坚定选择企业市场而非消费级赛道,源于其认为企业客户对长期信任、安全与正向价值的追求,与公司核心价值观更协同,能减少根本性冲突。
  • 针对强大的Mythos模型暂不公开,Amodei透露是应早期合作企业的强烈要求,因模型在发现并利用漏洞方面能力“跳跃式”提升,需待防护措施成熟后再逐步开放。
  • 他重申对AI导致大规模“白领失业”的严重警告,但强调其本意是促进行业与社会提前规划解决方案(如技能转型、宏观经济政策),而非散布恐慌。

风暴中心的“相对论飞船”船长

当被问及如何应对当前AI领域令人窒息的发展速度时,Dario Amodei(达里奥·阿莫代)给出了一个充满物理学色彩的比喻:这就像乘坐一艘以相对论速度加速远离地球的飞船。“按照狭义相对论,你睡了一觉,醒来发现地球上已经过去了两天。然后你再睡一觉,因为飞船持续加速,地球上过去了三天……感觉就是这样。”他坦言,自己从未是睡眠很多的人,但在异常压力下,他正在学习“放松和睡眠的艺术”。

然而,这种指数级加速并未导致非理性的恐慌。Amodei强调,面对众多清晰而紧迫的挑战,他持续处理它们的同时也在思考如何提前准备。“偏执或担心醒来会面对什么是没有建设性的。”他借鉴历史上处理高压情境人物的经验,指出成熟的决策在于“我们不能忽视风险,不能自满……但必须理性应对”。他将这种理想状态比作外科医生处理手术或军官指挥军事行动——在理解风险的同时保持基本的冷静。“在‘毫不担心’和‘天哪,我们今天必须恐慌’之间摇摆,是不成熟决策的标志。”

Amodei成长于旧金山,父亲是皮革工匠,母亲在图书馆工作。他对早年席卷身边的互联网革命毫无兴趣,沉迷于数学、涂鸦、理解宇宙和阅读科幻小说。他认为旧金山/硅谷文化中的“不墨守成规、个人主义以及‘疯狂一点也没关系’”的精神对他影响深远。“专家都反对你也没关系,如果你有一个连贯的愿景和世界观,你就应该去追求它。”尽管他对硅谷有许多批评,但这种鼓励探索“长尾可能性”的精神被他视为至关重要。

离开OpenAI的“信任裂痕”与行业“胡萝卜加大棒”

关于离开OpenAI并创立Anthropic的往事,Amodei提供了超越常见“安全分歧”叙事的解释。“构建强大技术时,你会面临许多艰难问题,Anthropic每天也面对许多我们不确定对错的决定。在安全问题上存在合理分歧是正常的,”他说,“仅凭这一点不足以离开。”

关键在于信任。“当你感觉无法信任某人,当他们的价值观并非他们所言,当他们不诚实,当他们并非出于所宣称的理由行事,当你看到令人不安的不诚实行为模式时,就很难继续与一家公司合作、信任它。”Amodei总结道,“归根结底,如果你们没有共同的愿景且互不信任,何必争论?解决之道就是各走各路。”他对现状感到平静:“我们按我们的方式做事,他们按他们的方式。我们将看到谁在市场中胜出,谁在公众舆论法庭上胜出。我认为这些比任何关于谁为何离开的戏剧性故事都更有说服力。”

谈及与竞争对手的关系,Amodei否认了整个行业互不信任的说法。他以DeepMind联合创始人Demis Hassabis为例,称相识15年,双方经常交流安全想法。“我的观点是:第一,有些参与者比其他人更值得信任。我认为Anthropic之外也有我信任、视为可信的参与者。”他提出了“胡萝卜加大棒”的行业协作观:可信的参与者需要联合起来,将不可信的参与者置于“不得不采用相同标准”的位置。

“积极的一面是激励他人,就像Demis和我互相激励……那是‘竞相向上’的胡萝卜一面。然后还有大棒的一面或隐含的大棒,即‘这些家伙在做正确的事,那些家伙如果不做正确的事就会很难看’。我们经常看到他们 grudgingly(不情愿地)做正确的事,同时试图假装在做不同的事。”Amodei认为,这正是让行业团结起来、促使行业合作的方式。

价值观驱动的商业抉择:为何All in企业市场

早期,当其他公司聚焦于有趣、炫目的消费级应用时,Anthropic却押注编程和企业市场,并凭借Claude for Code和Claude Cowork大获成功。Amodei解释,这既是商业决策,更是价值观决策。

创立Anthropic时,核心始终是“正确行事”。但为了实现这一目标,需要资金来支持昂贵的模型研发,因此公司必须拥有商业模式。关键在于:商业模式是否会与价值观冲突?Amodei从其他公司的经验中领悟到:如果选择的商业模式与价值观根本冲突,你将陷入困境——要么背叛价值观,要么变得无关紧要。“远不如选择一个与价值观兼容的商业模式。”

审视消费级世界(尤其是社交媒体)鼓励参与甚至成瘾的机制,以及AI视频模型领域的混乱,Amodei看到了广告收入驱动下的注意力最大化激励。而企业市场则不同。“如果我们想想所有能用AI做的积极事情——治愈以往无法治愈的疾病、让能源更便宜高效、助力教育、解决发展中国家的健康问题、促进经济增长——这些基本上都属于企业范畴。”企业客户高度重视长期关系和信任,这与Anthropic“以积极且安全的方式部署模型”的目标非常协同。“这个商业模式在很大程度上与我们的价值观保持一致。并非没有冲突,也并非没有艰难抉择,但这类选择的数量远比其他情况要少。”

对于企业客户可能轻易切换模型的担忧,Amodei承认存在一定惯性,但从未依赖于此。“我认为你想要拥有更好的模型、更好的产品。”他透露,至少到本次访谈录制时,增长曲线并未出现拐点,反而在上升。

“SaaSpocalypse”与就业冲击:预警而非末日预言

Claude Cowork发布后,传统软件公司市值一夜蒸发2850亿美元,交易员称之为“SaaSpocalypse”。Amodei认为,预测具体影响非常困难,但传统软件公司的护城河将发生分化:快速编写软件的能力这类护城河将会消失,但客户关系、领域专业知识、独特领域知识等则会保留甚至变得更加重要。他的建议是:切勿自满,列出所有护城河,清醒认识到其中一些将消失,而另一些的相对重要性会增加,同时可能出现新的护城河。灵活应对者将表现出色,固步自封者将处境艰难。他总体判断:软件行业的整体规模会变大而非变小,尽管会出现一些大的输家

Amodei因预警AI可能在未来1-5年内消除半数初级白领工作而备受关注,甚至被指责为“末日营销”。他对此强烈反驳,强调自己的完整论述始终包含对解决方案的探讨(如“代币税”、与企业合作调整岗位、宏观经济政策等),但社交媒体总倾向于截取那“三秒钟的末日片段”。他重申其核心信息是:“这是我们应当预见、担忧并需要积极应对的事情。”他承认不确定具体数字,但担忧程度依旧,属于同一量级。

他描绘了可能的未来图景:一方面,AI使软件工程师等岗位生产力大幅提升;另一方面,也可能出现AI直接完成全部工作的情况。关键在于社会如何匹配新的需求。他提到Anthropic内部出现的“前向部署工程师”或“应用AI解决方案架构师”等新角色,融合技术工作与客户沟通,需求旺盛。“事情总会调整,但调整速度能否跟上颠覆规模?我不知道。”他警告 disruption(颠覆)的规模将会很大,这正是预警的意义所在——促使政策制定(无论是公司内部还是全球宏观经济层面)。

展望五年后,Amodei指出几个可能的就业方向:物理世界相关的工作(如建造数据中心、制造业)、以人为本的工作(如医疗、客户服务中人类沟通仍被珍视)、以及“指导AI”的工作(确保其符合人类价值观与意图)。他坚决反对将预警简化为“革命将起”的恐慌叙事,“这绝对是我们想要防止的结果”。

地缘政治、军事应用与Mythos模型:在风险中划定红线

Amodei直言支持对华芯片出口管制,因为他认为中国在AI能力上领先将对美国乃至全球民主状态“非常不利”。尽管一些芯片制造商不同意其观点,但这并未阻止他发声,即使在签署更多合作伙伴关系后也是如此。“我们是成年人,可以在某些事上合作,同时在其他事上存在分歧。”

在AI军事应用问题上,Anthropic的立场复杂且曾引发争议。他们是首批与国防部签约在机密网络运营的AI公司之一,但同时因坚持某些安全防护措施而被部分联邦机构排除在外。Amodei解释,面对俄罗斯入侵乌克兰、中国可能入侵台湾的风险,他担忧“复兴的威权主义集团”的侵略性,认为民主国家需要自卫。这正是他们与两届政府合作的基础。“我们当然不是为了钱,这非常麻烦……我们这么做是因为我们关心。”

然而,关心也意味着必须设定限制。他援引其在《技术的青春期》中的表述:“我们应该以一切方式使用这项技术,除了那些破坏我们自身价值观的方式。”他们的红线是大规模监控和全自主武器。“如果民主国家做那些事,那么民主国家获胜也不值得。”他解释,这就是为什么他们既率先与国防部合作,又拒绝了一些其他公司愿意做的事情。“你应该选择你的原则并坚持到底。”

关于与Palantir的合作,Amodei强调其范围经过谨慎界定,他们不与ICE(移民和海关执法局)或CBP(海关和边境保护局)合作,也不认为在加沙有业务。对于AI辅助 targeting(目标选定)可能导致平民伤亡的悲剧,他深感痛心,但指出这恰恰说明了他们坚持的原则——人类拥有最终决定权——的重要性。“想象一下,如果我们允许了全自主武器……那才是我们站出来反对的。”他认为,总体而言,AI的恰当使用更可能阻止而非引发世界大战,但若无限制,则可能增加误判风险。

Mythos模型的处置集中体现了Amodei在能力与风险之间的权衡。这款模型在发现漏洞并将其转化为可利用攻击方面能力出现“巨大跳跃”,以至于早期合作公司惊呼其为“超级武器”,并恳请不要公开。Amodei澄清,目标并非永远锁死该模型,而是逐步向更广泛的群体开放,并最终在强大的网络安全防护到位后向公众发布。他们担心现有防护措施(包括他们自己在Opus 4.7上发布的)可能被绕过,因此需要时间强化防御。他驳斥了用开源模型即可复现Mythos能力的说法,并以在Firefox中发现271个新漏洞为例证明其独特性。他强调,不发布Mythos已对公司商业利益造成巨大损害,这绝非营销噱头。“我们正尽最大努力向新的网络防御者开放Mythos……这是一个真正的挑战,我们需要作为一个社会共同面对它,而不是指责这是廉价营销。”

治理、未来与信任:在指数曲线上保持平衡

Amodei认为,AI是历史上首个主要由私营部门而非政府主导构建的强大技术,这是一种危险且不稳定的局面。他主张需要在AI公司权力之上建立制衡机制,例如Anthropic设立的“长期利益信托”(Long-Term Benefit Trust),该机构有权任命和罢免董事会多数成员,实质上可以解雇他。这引入了某种程度的“公共治理”元素。同时,政府也需要通过立法(如设定红线)和司法部门进行制衡。“我既害怕公司拥有这项技术,也害怕政府拥有它。公司需要对政府形成制衡,政府也需要对公司形成制衡。”

对于AI自我改进的“奇点”时刻,Amodei认为这不是一个时间点,而是一个连续过程。AI已经能够为下一代AI建议架构,生产力提升比例正在指数增长。关键在于在每个节点评估是否需要减速或加强控制。“应对这种技术的正确、明智的反应是说:我们不会恐慌。我们的对策将随着技术能力平滑地升级。”他批评在“反对一切AI监管”和“主张国有化”之间极端摇摆的反应是“不严肃”的表现。

Amodei曾估计AI导致文明崩溃的风险在10%-25%,他强调Anthropic的行动旨在降低而非增加这一概率。他将公司比作一家努力做到比其他航空公司安全十倍的航空公司,但无法保证永不坠机。“25%太高了,我们正努力使这个概率大大降低,这就是目标。”

最后,关于为何公众应该信任他及其公司,Amodei承认,鉴于硅 Valley近年来的行为,始于不信任是理性的。他认为信任必须通过实际行动赢得。他列举了Anthropic“说到做到”的记录:暂不发布Mythos损害了商业利益;早期主动切断对中国大陆的模型访问损失了数亿美元(当时是收入的很大一部分);推迟Claude的发布等。“我们并不完美,我们会犯错……但根本上,我们拥有一个关于如何做正确之事的诚实而真诚的图景,并且我们正努力执行这一图景。”人们需要纵观整个历史,自行判断哪种假设最符合这些行为。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接