达里奥·阿莫代伊的安索普公司起诉美国政府,称五角大楼因人工智能安全防护措施进行报复

CN
2小时前

根据几份报告,Anthropic于3月9日在联邦法院提起两项诉讼,挑战美国国防部和特朗普政府所采取的行动,称政府在公司拒绝取消其Claude人工智能系统的安全措施后,非法对其进行报复。这些诉讼针对的是通常适用于怀疑进行间谍活动或破坏活动的外国对手的指定,而不是国内科技公司。

争端源于Anthropic与五角大楼之间关于公司Claude AI模型如何被美国国防机构使用的合同谈判。Anthropic此前支持国家安全倡议,并在2024年6月成为第一家在美国政府机密网络上部署模型的前沿AI公司,为分析师和军事规划者提供情报审查、模拟、作战计划和网络安全工作的支持。

当国防部要求在合同续签中对Claude进行“所有合法用途”的无限制访问时,紧张局势升级。Anthropic同意大多数条件,但坚持两个限制:禁止将其人工智能用于对美国人的大规模国内监视,并防止在完全自主的致命武器系统中部署。

公司高管辩称,这些保障措施是必要的,因为当前的前沿AI模型对自主武器仍然过于不可靠,并且大规模监视计划可能与宪法保护相冲突。Anthropic表示,在与政府的先前合作中,这些限制从未干扰过任何军事任务。

在2月24日Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)与国防部长皮特·赫格塞斯(Pete Hegseth)会晤后,谈判崩溃。在随后的几天,2月27日,特朗普总统在Truth Social上发布,指示联邦机构“立即停止”使用Anthropic技术,称继续依赖该公司是一个“灾难性的错误”。

特朗普总统在Truth Social上关于白宫与Anthropic之间的问题。

不久之后,赫格塞斯启动了根据10 U.S.C. § 3252所述的联邦采购权,将Anthropic定义为供应链风险。该指定在3月4日左右通过一封信确认,限制某些政府承包商使用被认为容易受到破坏或外国影响的技术。

Anthropic认为这一举措超出了法律的预期目的。在法庭文件中,该公司辩称,这一指定是针对与外国相关的安全威胁,而不是与国内供应商的政策分歧。诉讼声称政府未能使用法律要求的“最不限制性手段”,而是施加了公司所称的非正式黑名单。

法律文件还提出了宪法问题。Anthropic辩称,该指定违反了第一修正案,因为它因该公司公开主张对人工智能使用的限制(如自主武器和国内监视)而惩罚其。根据投诉,将该公司标记为国家安全风险损害了其声誉,并可能威胁到数亿美元的合同。

Anthropic要求法院阻止该指定的执行,命令联邦机构撤回停止与该公司业务的指示,并防止未来发生类似行动。公司表示,它的目标不是迫使政府购买其技术,而是防止因政策分歧而遭到报复。

“寻求司法审查并不改变我们长期以来利用人工智能保护国家安全的承诺,”一位Anthropic发言人在声明中表示。“但这是保护我们的业务、客户和合作伙伴所必需的步骤。”

五角大楼官员未就诉讼公开发表评论,引用了有关活跃法院案件的政策。一些国防领导人此前曾辩称,军事机构必须在紧急情况下保留对承包商技术的完全操作权,不能允许供应商决定系统的使用方式。

此争端发生在争夺军事人工智能合同的竞赛加剧之际。包括OpenAI在内的竞争公司在Anthropic谈判破裂时与五角大楼达成了一致。与此同时,谷歌和微软等主要技术合作伙伴表示,他们打算继续与Anthropic在与防御无关的商业服务上合作。

行业分析师表示,此案的结果可能为联邦政府施压人工智能公司在国家安全利益相关时修改安全政策建立先例。目前,Anthropic的消费者产品和商业人工智能服务仍然可用,而围绕五角大楼指定的法律斗争正在法院中进行。

  • 为何Anthropic起诉美国政府?
    Anthropic提起诉讼,声称五角大楼在公司拒绝取消人工智能安全限制后,非法将其标记为国家安全供应链风险。
  • 是什么引发了Anthropic与五角大楼之间的争端?
    冲突始于合同谈判期间,当时国防部要求无限制使用Anthropic的Claude AI系统。
  • 供应链风险的指定意味着什么?
    如果官员认为某公司技术存在安全或采购风险,该标签可能限制政府承包商使用该公司的技术。
  • 在诉讼期间,Anthropic的人工智能服务还会继续运营吗?
    是的,Anthropic的商业人工智能产品和消费者服务在法律案件进行时仍然可用。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接