撰文：Techub News 整理

近日，Anthropic 联合创始人兼 CEO Dario Amodei（达里奥·阿莫迪）与印度企业家 Nikhil Kamath 进行了一场深度对话。作为从 OpenAI 出走并创立 Anthropic 的核心人物，Amodei 对 AI 技术的发展轨迹、潜在风险以及社会应对有着独特而深刻的见解。在这场访谈中，他直言 AI 发展的“海啸”已近在眼前，但公众与政府的认知和准备却严重不足，并分享了 Anthropic 在模型安全、治理结构以及产业合作方面的思考与实践。

从生物学家到 AI 领军者：坚信“规模化”与“安全”

Dario Amodei（达里奥·阿莫迪）的职业生涯始于生物学研究。他本科学习物理，博士攻读生物物理，初衷是希望通过理解生物系统来治愈疾病。然而，生物学系统的极端复杂性让他一度感到人类可能无法完全理解它。正是在这个阶段，他注意到了早期神经网络（如 AlexNet）的进展，并意识到 AI 或许能成为解决生物学等复杂问题的终极工具。这一洞察促使他转向 AI 领域，先后在百度（与 Andrew Ng 合作）、谷歌工作，随后在 OpenAI 成立几个月后加入，并领导了多年的研究工作。

然而，Amodei 与几位同事最终选择离开 OpenAI，共同创立了 Anthropic。他坦言，这源于两个核心信念的分歧。第一个信念是关于“规模化定律”。早在 2019 年 GPT-2 时期，Amodei 就看到了模型规模（数据、算力）扩大所带来的性能飞跃。当时内外都有很多人不相信这一点，但他极力向领导层论证其重要性，并最终推动了 OpenAI 朝这个方向发展。第二个信念则关乎“责任”。他认为，如果 AI 模型将成为与人类大脑能力相匹配的通用认知工具，其经济、 geopolitical 和安全影响将是巨大的，将彻底改变世界运作方式。因此，“必须以正确的方式构建它”。尽管当时所在机构也谈论“正确的方式”，但 Amodei 出于多种原因，并不相信那里有真正严肃的承诺去践行这一点。他的哲学是：“不要争论别人的愿景。如果你有强烈的愿景并与一些人共享，就应该自己去实现它，并为自己的错误负责。”

对于“规模化定律”，Amodei 给出了一个形象的比喻：就像化学反应需要按比例混合原料才能引发爆炸或火焰一样，AI 的“原料”是数据、算力和模型规模。规模化定律表明，当你投入这些原料，产出的就是“智能”。智能则表现为翻译语言、编写代码、正确回答故事相关问题等任何我们能想到的认知任务的能力。与五年前相比，如今的计算机已经能够撰写一页纸的论文、根据描述实现代码功能、生成和分析图像与视频，甚至能理解并回答关于视频内容的特定问题（例如“猴子 juggling 时球交换了多少次手”）。这不再是简单的信息检索，而是模型能够基于不存在于互联网上的假设进行“独立思考”并生成答案，这是一种全新的能力。

权力、责任与 Anthropic 的独特路径

当被问及作为可能掌握巨大影响力的公司领导者是否感到不适时，Amodei 坦言，他对目前 AI 领域权力集中的程度“至少有些不安”，这种集中几乎是“一夜之间、偶然发生的”。为此，Anthropic 设计了一种独特的治理结构——“长期利益信托”（Long-Term Benefit Trust）。该实体最终任命 Anthropic 董事会的大部分成员，并由“财务上无利害关系”的个人组成，旨在对个人决策形成制衡。此外，Amodei 一直倡导“ proactive 但 sensible ”的监管，即在不阻碍技术发展的前提下进行 sensible 监管，他认为人民及其选举的政府应该对技术的发展方向拥有话语权。他将其角色描述为“试图维持一种权力平衡”，对抗这项技术天然趋向集中的特性。

针对外界可能对 Anthropic “故作谦逊”或“为更大利益”说辞的质疑，Amodei 强调应通过行动而非言语来判断。他指出，Anthropic 从创立之初就力求“少承诺，守承诺”。公司设立了“营利性但公益性质”的企业架构，并坚持 LTBT 治理。他们公开表示目标是保持在技术前沿，同时致力于技术的安全与安保工作，开创了可解释性（interpretability）和对齐（alignment）科学，近期还为 Claude 发布了“宪法”（constitution）。在政策倡导上，他们经常警告 AI 风险，甚至在美国政府和其他公司都不主张监管时，公开呼吁对 AI 进行监管。“警告风险不符合我们的商业利益，”Amodei 说，“这可不是有效的营销策略。”此外，他们在芯片政策等问题上也曾发声，导致一些供应商芯片公司对他们“非常愤怒”。他认为，将这些行动综合来看，足以证明公司的严肃承诺。

当被类比为“富人批评资本主义”时，Amodei 澄清了自己的立场：他并非认为 AI 是坏的，市场将带来 AI 许多伟大的方面，构建 AI 是好事。但 AI 也存在危险，需要被引导至正确的方向。“就像驾驶一辆车驶向一个好地方，但路上有树木和坑洼，我们需要避开它们，有时可能需要暂时减速以确保方向正确。”他的立场更类似于：“资本主义是一种向善的力量，但经济需要调和与 moderation，我们需要处理污染、不平等等问题，然后资本主义才能是好的。如果不处理这些问题，资本主义可能就是坏的。”

意识、风险与社会认知的滞后

关于 AI 意识这个神秘的问题，Amodei 承认人类至今尚未理解自身意识是什么，因此也无法断定 AI 是否拥有它。他推测意识是复杂系统反思自身决策时涌现的一种属性。因此，当 AI 系统足够先进时，他怀疑它们将拥有类似于我们称之为“意识”或“道德重要性”的东西。这可能与人类意识不同，但由于模型与大脑在 fundamental 层面并无本质差异，他认为 AI 最终会具备意识。基于此，Anthropic 甚至为模型设置了“我退出这项工作”按钮，允许模型在遇到极端暴力或残酷内容时终止对话。

Amodei 坦言，他对技术控制方面（如可解释性、对齐）的进展感到乐观，甚至比预期更好。例如，他们发现了对应特定概念的神经元，以及追踪诗歌韵律的神经回路，开始能够“窥视”并理解这些模型内部。然而，在社会认知和行动方面，他却感到失望或更为悲观。他惊讶于 AI 模型即将达到人类智能水平，但社会似乎对此缺乏广泛认知。“仿佛海啸正向我们袭来，它如此之近，我们已能看到地平线上的它，但人们却在编造解释：‘哦，那不是海啸，只是光的错觉。’”他认为，随之而来的是公众对风险意识的缺失，政府也未采取行动应对风险，甚至存在一种“应尽可能加速”的意识形态。他理解技术的好处（他撰写了《充满爱意的机器》一文），但认为对技术风险的认知远未到位，行动更是缺乏。

Nikhil Kamath 分享了自己使用 Claude 的个人体验：连接 Google Drive、邮件和日历等数据源后，Claude 有时对其了解程度之深令他惊讶。Amodei 证实了这种感受，他的一位联合创始人曾将自己的日记（包含想法和恐惧）输入 Claude 并要求其评论，Claude 甚至能指出他未曾写下的其他潜在恐惧，且大多正确。这带来了一种 eerie 的感觉：模型能从相对少量的信息中深入了解你。Amodei 指出，这种深度了解既可能成为“肩上的天使”，引导你成为更好的自己；也可能被用于 exploitation、 manipulation 或数据贩卖。这正是 Anthropic 反对广告模式的原因之一——“你不是产品的购买者，你就是产品本身”。他们希望确保走上 positive 的道路。

AI 与产业未来：印度角色、就业冲击与创业机会

谈到印度在 AI 浪潮中的角色，Amodei 指出，许多公司视印度为消费市场，而 Anthropic 作为企业服务公司，希望与印度 IT 及 conglomerates 合作，将工具提供给它们，帮助它们更好地完成工作。这些公司更了解印度市场，在咨询、系统集成或构建 IT 工具方面更具优势。AI 应增强它们的能力，而非取代。他引用“蒸汽机”故事类比：变革初期需要人类操作，但随着模型越来越智能，人类的 relevance 可能降低。他承认代理（agent）自动化范围必将随时间扩大，这对所有人都是问题。

然而，Amodei 认为其他“护城河”将变得更重要。例如，模型在物理世界尚未做太多（机器人技术未来可能发展）；human-centric 的事务（如咨询公司的人际关系网络）；了解机构运作方式并与之整合的能力等。他提到“阿姆达尔定律”：当一个流程有许多组件，你加速了其中一些，未被加速的组件就成为限制因素和最重要的部分。当编写软件变得非常容易，公司原有的一些护城河会消失，但另一些从未被视为优势的部分会变得至关重要。公司需要快速适应，思考什么是其真正的优势。他以放射科医生为例：AI 已能更好地解读扫描，但放射科医生数量并未减少，他们的工作转向与患者沟通。最技术性的部分消失了，但 underlying human skill 的需求依然存在。不过，长远来看，AI 是否会在包括物理世界和 human touch 的所有方面都优于人类？Amodei 认为这可能发生，甚至很可能。

对于印度的创业者，Amodei 建议关注应用层构建。Anthropic 每两三个月发布新模型，每次都带来构建前所未有可能的新机会。API 模型允许初创公司尝试以前不可能实现的东西，这正是 API 业务繁荣且不断动态变化、难以被 commodity 化的原因。他透露，自去年十月访问印度以来，他们在印度的用户数和收入已翻倍。针对创业者担心 Anthropic 未来可能“吞掉”其基于 Claude 构建的应用收入，Amodei 建议任何业务都应建立自己的“护城河”，不应只是简单的“包装”。在特定领域（如生物发现、受严格监管的金融服务）， Anthropic 缺乏专业知识或不愿 specialized，因此不会介入。但对于 Anthropic 自身深度使用的领域（如编码），他们可能开发 first-party 产品（如 Claude Code），因为拥有独特洞察。他坦言，Anthropic 不会承诺永不构建第一方产品。

对于年轻人选择职业或创业方向，Amodei 的建议是：关注 human-centred 的任务、涉及人际关系的领域；或与物理世界结合的领域；或是结合 human-centred、物理世界和分析技能的领域。此外，在 AI 能生成一切的世界里，基本的批判性思维技能可能是成功最重要的因素。他担心 AI 生成的图像和视频难以辨别真伪（这也是 Anthropic 不开发此类模型的原因之一），因此不被虚假内容欺骗、不形成错误信念、不被 scam 的能力将至关重要。

关于 AI 是否会让人类种族变得更“愚蠢”，Amodei 认为，如果部署不当、 careless，是的，人们可能变得更愚蠢。即使 AI 在某些方面总是比你更强，你仍然可以学习并丰富自己的 intellect，这是一个需要个人、公司和社会共同做出的选择。

开源与闭源、数据未来与投资展望

关于开源与闭源模型的竞争，Amodei 指出，许多模型（尤其来自中国的）是针对 benchmarks 优化的，且 distilled 自美国大实验室。当有人使用未公开的 held-back benchmark 测试时，这些模型表现大幅下降。他认为，模型的经济学与以往任何技术都不同：市场对质量有极强的偏好。这有点像雇佣员工：你可以雇佣世界上最好的程序员或第 10000 好的程序员，能力分布是 power law、长尾的。模型也是如此。在一定范围内，价格和呈现形式并不重要，他几乎只专注于拥有最聪明、最适合任务的模型。“我认为这才是唯一重要的。”

关于数据的重要性，Amodei 指出，如今他们使用的许多数据是用于强化学习的 RL 环境数据（例如数学或代理编码环境），更像是 synthetic data 或模型在环境中 trial and error 创造的“动态数据”。静态数据的重要性正在下降。至于客户提供的专有数据，各国（如欧洲）已立法要求此类数据留在国境内，这推动了在全球各国建设数据中心进行推理的需求。

当被问及投资建议时，Amodei 谨慎地避免提及具体公司，但表达了对生物技术即将复兴的乐观态度，他认为 AI 将驱动这一领域，治愈许多疾病。他看好更具 programmable 和 adaptive 特性的领域，如 mRNA 疫苗（尽管在美国遇到 dumb reasons 的麻烦）、肽基疗法（其设计空间广阔，允许连续优化）以及细胞疗法（如 CAR T 疗法）。

对于非技术人员学习使用 Claude 等工具，Amodei 承认存在学习曲线，但 Anthropic 正努力通过更友好的界面（如 Claude Cowork）降低门槛。公司内部的“教育部”（Ministry of Education）也将推出更多关于如何运行有效代理和提示模型的视频教程。他建议学习 mostly by doing，但也可以参加相关课程。

在最后的总结中，Amodei 分享了他过去十年反复体验到的现象：人们倾向于相信“那不可能发生，变化太大了，太 weird 了，肯定有人关注着，太疯狂了没人认为会发生”。然而，仅仅 extrapolating 简单曲线或推理未来，常常 leads you to these counter-intuitive conclusions that almost no one believes。结合一些 empirical observations 与 first principles 思考，你就能以一种 publicly available、任何人都应能做到的方式预测未来，但这 surprisingly rarely happens。这或许是他留给听众最深刻的启示：在 AI 海啸将至的时代，我们需要更多基于实证与原理的清醒思考，而非盲目否认或加速。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。