Dario Amodei(Anthropic CEO)必须守住两条红线

CN
1小时前

撰文:Techub News 整理

近日,美国国防部与领先的 AI 公司 Anthropic 之间的合作谈判陷入僵局,国防部甚至威胁将 Anthropic 列为“供应链风险”。Anthropic 联合创始人兼 CEO Dario Amodei(达里奥·阿莫代)就此接受了 CBS 新闻的专访,首次公开、详细地回应了这场争议的核心。在这场火药味渐浓的对话中,Amodei 阐明了 Anthropic 的立场:全力支持美国国防,但坚决拒绝在“国内大规模监控”和“全自主武器”两个关键领域妥协。

深度合作与两条不可逾越的红线

采访伊始,Dario Amodei(达里奥·阿莫代)首先澄清了一个普遍的误解:Anthropic 并非不愿与美国政府合作,恰恰相反,他们是“所有 AI 公司中与美国政府、美国军方合作最积极、最深入的一家”。他列举了公司的多个“第一”:首个将模型部署在涉密云上的公司;首个为国家安全目的定制模型的公司;其技术已广泛部署于情报界和军方,用于网络安全、作战支持行动等多个关键领域。

Amodei 强调,Anthropic 的动机源于爱国信念:“我们必须保卫我们的国家,抵御像中国、俄罗斯这样的专制对手。”然而,他话锋一转,提出了合作的核心前提:在抵御外部威胁的同时,必须捍卫美国的民主价值观。正是基于这一原则,Anthropic 向国防部明确表示,可以支持其98%至99%的用例需求,唯独对两个领域亮起红灯。

第一条红线是“国内大规模监控”。Amodei 解释道,AI 技术使得一些以往不切实际(或无用)的监控手段成为可能。例如,政府可以购买私营公司收集的海量数据(如位置信息、个人资料、政治倾向),并通过 AI 进行大规模分析,从而构建国民档案。“这实际上并不违法,只是在 AI 时代之前,这种做法毫无用处。”他指出,技术发展速度已经超越了法律,国内大规模监控正“走在法律前面”,存在滥用权力的巨大风险。

第二条红线是“全自主武器”。Amodei 特别区分了当前在乌克兰等地使用的“部分自主武器”与“完全无需人类干预即可开火的武器”。他坦言,对手未来可能拥有这类武器,因此美国或许最终也需要它们来保卫民主。但 Anthropic 对此有两大担忧:一是技术可靠性,二是监督问责。

“当今的 AI 系统远未达到足以制造全自主武器的可靠程度,”Amodei 说,“任何与 AI 模型打过交道的人都明白,它们存在一种根本性的不可预测性,这在纯技术层面上我们尚未解决。” 其次,如果一支由无人机或机器人组成的大军在没有人类监督的情况下运作,由谁来决定攻击目标?如何确保问责?他认为,关于如何监督这类武器的全国性对话尚未开始,因此 Anthropic 坚决反对现在就放开限制。

谈判破裂:三小时通牒与“惩罚性”措施

当被问及既然国防部已“原则上同意”这两项限制,为何最终未能达成协议时,Amodei 揭示了谈判过程的仓促与压力。他表示,国防部给出了“三天的最后通牒”,要求 Anthropic 要么同意他们的条款,要么面临被列为“供应链风险”或启用《国防生产法》等措施的风险。

在这短暂的交涉窗口中,双方有过几次来回。Amodei 提到,国防部曾发来过看似满足 Anthropic 要求的文本,但其中包含了诸如“如果国防部认为合适”或“在法律允许范围内行事”等模糊措辞。“这并没有在任何实质意义上做出让步,”他评价道。此后进一步的步骤也未能满足 Anthropic 的核心关切。Amodei 重申,公司从一开始就希望达成协议。

对于总统在社交媒体上指责 Anthropic “自私”、“将美国人的生命、我们的军队和国家安全置于危险之中”的言论,Amodei 回应称,即使在政府采取“针对外国对手才使用的”前所未有的供应链风险指定措施后,Anthropic 仍承诺将尽一切努力支持国防部,在其技术被剥离、竞争对手接手之前,确保服务的连续性。他表达了对服务中断的深切担忧,并引用一线军官的说法称,失去 Anthropic 的技术“将使我们倒退6个月、12个月,甚至更久”。

Amodei 将谈判僵局的责任指向国防部:“整个时间线都是由国防部驱动的,而不是我们。我们正在努力提供连续性服务,我们正在努力达成协议。” 他暗示双方立场仍然相距甚远,并强调 Anthropic 的立场明确且坚定:只要不触碰那两条红线,他们愿意为包括国防部、情报界在内的所有政府部门提供服务。

私营公司的责任:技术前沿与法律滞后的桥梁

主持人提出了一个尖锐的问题:为什么 Anthropic 一家私营公司,在 AI 军事应用上应该比五角大楼本身更有发言权?Amodei 从几个层面进行了辩护。

首先,他澄清,据他们所知,在实际应用中,尚未有任何用例触及这两条红线的限制。这些被限制的用例只占国防部需求的1%,且没有证据表明它们已被执行或因此遇到麻烦。Anthropic 的技术已在国防部及其他政府部门广泛部署,并未引发这些问题。

其次,Amodei 承认,从长远看,这确实应该通过民主讨论来解决,国会有责任立法跟进。例如,关于国内大规模监控的可能性,法律(特别是对宪法第四修正案的司法解释)或国会立法尚未跟上技术的步伐。“但从长远来看,我们认为国会应该跟上技术的发展。但国会不是世界上行动最快的机构。” 他话锋一转,指出在国会行动滞后的当下,身处技术最前沿的 Anthropic 有责任做出判断。

“我们期望国防部……能深思熟虑地看待这些问题,” Amodei 说,“但在他们未能做到的情况下,我们需要审视技术,审视它的能力(尤其是在可靠性方面),审视它如何走在法律前面,甚至如何背离了法律的初衷。” 他认为,不被政府大规模监控的权利、由军人而非机器做出战争决策的权利,这些都是美国的基本原则。

对于为何美国人应该信任一家私营公司CEO而非联邦政府来做这些决定的问题,Amodei 给出了两点回答。第一,在自由市场体系中,不同公司可以根据不同原则提供不同产品。Anthropic 的模型不仅受限于使用条款,它本身具有“个性”,有能力可靠地完成某些任务,也无法可靠地完成另一些任务。“我认为我们最能判断我们的模型能可靠地做什么,不能可靠地做什么。” 第二,他再次强调,国防部本可以简单地选择另一家没有这些限制的供应商,这是处理此类分歧的正常方式。

然而,国防部的做法超出了正常商业分歧的范畴。Amodei 指出,政府不仅将分歧扩大到了国防部以外的其他政府部门,试图惩罚性地撤销 Anthropic 的其他合同,还动用了“供应链风险”指定这一工具。这意味着任何与军方有合同关系的私营公司,在其军事合同相关业务中都不能使用 Anthropic 的技术。“他们正在干预私营企业的行为,这很难不被解读为惩罚性的。” Amodei 强调,据他们所知,供应链风险指定从未应用于一家美国公司,此前只用于像俄罗斯的卡巴斯基实验室、中国芯片供应商这类被视为对手的实体。将 Anthropic 与它们归为一类,考虑到公司为美国国家安全所做的贡献,这显得“非常具有惩罚性且不恰当”。

当被问及这是否意味着 Anthropic 自认为比五角大楼更懂时,Amodei 没有直接肯定,而是再次回到了自由市场和公司对自身技术判断的逻辑。但他也重申,从长远看,由私营公司和五角大楼来争论此事并不可行,国会需要在此采取行动。Anthropic 正在思考国会如何能够施加一些护栏,这些护栏既不妨碍美国击败对手的能力,又能确保胜利的方式符合美国的价值观。

技术新颖性与价值观的平衡

主持人以波音公司为例类比:波音为美军制造飞机,但不会告诉军方如何使用这些飞机。Anthropic 的做法有何不同?Amodei 指出了关键区别:技术的新颖性及其发展的指数级速度。

“当一项技术已经成熟稳定时……一位将军对飞机如何运作有相当好的理解。飞机已经存在很久了。” 他承认航空航天领域也有创新,但“速度无法与 AI 相比”。Amodei 经常谈论 AI 正处于指数级增长轨道,投入模型的计算量每四个月翻一番,“我们从未见过这种创新速度”。如果这种速度持续下去,美国政府将永远无法跟上。

那么,既然 Anthropic 长期主张与美国政府合作以确保国家安全,而技术发展又如此之快,国会无法跟上,为何还要在此刻“转身离开”?Amodei 反驳道,他们并非转身离开,而是划定了两条非常狭窄但至关重要的红线。他再次强调,国内大规模监控无助于美国追赶对手,反而是对政府权力的滥用(即使在技术上是合法的)。至于全自主武器,他确实担心美国可能需要保持同步,但技术尚未准备好,且缺乏监督问责的讨论。

“我们需要平衡击败对手这一生存需求——没有人比我更强调这一点——但我们需要以正确的方式战斗。” Amodei 做了一个类比:“这就好比说,如果我们的对手犯下战争罪,我们是否也应该犯下战争罪?我并不是说这等同于战争罪。我想说的是,我们价值观的精髓在于,我们必须找到一种既能获胜又能保存这些价值观的方式。我们不能只是一味地竞相堕落。我们必须有一些原则。而这些原则非常少。”

他呼吁关注那99%符合美国价值观、能够保卫国家的用例,甚至可以研究那最后1%的用例,看是否有符合价值观的实现方式。“这就是我们的立场,我认为这非常合理。”

潜在风险与政治立场

当被要求举例说明可能出错的情况时,Amodei 再次围绕“可靠性”和“监督”两点展开。可靠性问题可能导致武器错误锁定目标、误杀平民、缺乏人类士兵的判断力,造成友军误伤或伤及无辜。“我们不想出售我们认为不可靠的东西,也不想出售可能导致我们自己人或无辜者丧命的东西。”

监督问题则涉及问责链。人类士兵的决策有一整套问责机制,前提是“人”运用了常识。Amodei 设问:“假设我有一支由1000万架无人机组成的军队,全部由一个人或一小群人协调……很容易看出其中存在问责问题,对吧?如此集中权力是行不通的。” 他强调,这并不意味着不应该拥有这样的无人机舰队,也许未来因为对手拥有而我们也需要,但必须就问责、由谁按下按钮、谁能否决等问题进行讨论。

对于前总统特朗普称 Anthropic 为“左翼觉醒公司”,以及此次决定是否受意识形态驱动的质疑,Amodei 予以否认。他表示,Anthropic 努力保持中立,只在拥有专业知识的 AI 政策问题上发声,不涉足一般政治议题,并寻求一切可能的共同点合作。他列举了曾与前总统、参议员就保障 AI 能源供应等问题会面并表达支持的例子。“我们无法控制别人——即使是总统——对我们的看法。我们能控制的是保持理性、中立,并坚持我们的信念。”

未来展望:坚持原则与法律挑战

对于未来是否可能达成协议,Amodei 表示自己没有水晶球,但 Anthropic 的立场清晰:两条红线从第一天起就已划定,不会动摇。如果国防部能与他们达成共识,或许会有协议。为了美国国家安全,他们仍希望促成合作,“但达成协议需要双方。”

如果此刻有机会与总统对话,Amodei 会说:“我们是爱国的美国人。我们所做的一切都是为了这个国家,为了支持美国国家安全。我们积极向军方部署模型,是因为我们相信这个国家,相信击败专制对手,相信保卫美国。我们划出红线,是因为我们认为跨越这些红线违背美国价值观,我们想捍卫美国价值观。当我们受到供应链指定和《国防生产法》的威胁时——这是政府对私营经济前所未有的干预——我们行使了经典的宪法第一修正案权利,发声并与政府持不同意见。与政府持不同意见,是世界上最美国的事情。我们所做的一切都是爱国者的行为,我们捍卫了这个国家的价值观。”

当被问及 Anthropic 作为一家企业能否在此次风波中生存时,Amodei 显得信心十足。他澄清了国防部长推文中的一个“不准确”之处:推文称任何有军事合同的公司都完全不能与 Anthropic 做生意,但法律实际规定的是,在其军事合同范围内,任何公司不能使用 Anthropic 的技术。“这是一个非常……有限得多的影响。” 他断言,Anthropic 不仅能生存下来,而且会“很好”。他指责部长的推文旨在制造不确定性、恐惧和疑虑,但 Anthropic 不会让其得逞。

对于批评者指责五角大楼和白宫此举是“滥用权力”,Amodei 没有直接使用这个词,但再次强调了其“前所未有”的性质,并指出从政府的一些声明和措辞中可以明显看出这是“报复性和惩罚性的”。“我不知道还能用什么词来形容:报复性和惩罚性。”

关于是否会采取法律行动,Amodei 表示,截至目前,他们只收到了推文,没有收到任何正式的供应链风险指定通知或政府实际行动。“当我们收到某种正式行动时,我们会审视它,理解它,并在法庭上挑战它。”

最后,对于这种通过推文沟通的方式是否反映了政府处理重大国家安全问题的能力,Amodei 不愿就此评论特定政府或个人。“我们正尽我们所能支持美国国家安全。这就是为什么我们致力于寻找协议。如果我们找不到协议,这就是为什么我们致力于以平稳的方式完成过渡,让我们的作战人员在他们投入冲突时能继续得到支持。这也是为什么我们致力于反对我们认为不符合这个国家价值观的行动。这不是关于任何特定的人,也不是关于任何特定的政府。这是关于坚持正确原则的问题。”

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接