人类公司首席执行官:在与五角大楼的持续争议中,将不会放宽人工智能安全措施。

CN
Decrypt
关注
11小时前

人类公司首席执行官达里奥·阿莫代伊周四表示,该公司将不会从其Claude人工智能模型中去除安全保障,这加剧了与美国国防部之间关于该技术在机密军事系统中的使用的争议。


声明是在国防部审查与人类公司的关系并权衡潜在后果时发布的,包括取消该公司的$2亿合同以及可能启动国防生产法。


阿莫代伊写道:“我们无法良心上同意他们的要求,”他提到五角大楼在一月份要求人工智能承包商允许将其系统用于“任何合法的用途。





尽管五角大楼随后要求人工智能供应商在未来协议中采用标准的“任何合法用途”语言,人类公司仍是唯一拒绝将其人工智能控制权交给军方的前沿人工智能公司。


周三,Axios首次报道五角大楼已发出最后通牒,要求无限制地使用Claude进行军事用途。报告称最后期限是本周五。


阿莫代伊继续说道:“选择最符合他们愿景的承包商是国防部的特权。但考虑到人类公司的技术给我们的武装部队提供的巨大价值,我们希望他们重新考虑。”


在他的声明中,阿莫代伊将该公司的立场框定为符合美国国家安全目标。


他说:“我深信使用人工智能来捍卫美国和其他民主国家以及打败我们的专制对手具有生存的重要性。”


他补充说,Claude被“广泛部署于国防部和其他国家安全机构进行情报分析、建模与仿真、作战计划、网络行动等。”


人工智能战争


这一争议在对先进人工智能系统在高风险军事情境下行为的更广泛担忧背景下展开。在近期的伦敦国王学院一项研究中,OpenAI的GPT-5.2、人类公司的Claude Sonnet 4和谷歌的Gemini 3 Flash在95%的模拟地缘政治危机中部署了核武器。


在一月份于德克萨斯州SpaceX星际基地的演讲中,国防部长皮特·赫格塞斯表示,美国军方计划部署最先进的人工智能模型。


同月,关于Claude在美国于本月早些时候进行的捕获前委内瑞拉总统尼古拉斯·马杜罗的行动中被使用的报道浮出水面。阿莫代伊否认人类公司对任何特定军事行动提出质疑的说法。


他说:“人类公司理解,军事决策由国防部而不是私人公司做出。我们从未对特定军事行动提出异议,也未尝试以临时方式限制我们技术的使用。”


尽管如此,阿莫代伊表示,使用这些系统进行大规模国内监控或自主武器与民主价值观不符,并且带来了严重风险。


他说:“今天,前沿人工智能系统的可靠性不足以支持完全自主的武器。我们不会故意提供使美国战斗人员和平民处于风险中的产品。”


他还提到了五角大楼威胁将人类公司标记为“供应链风险”,同时可能启动国防生产法。


他说:“后两项威胁在本质上是矛盾的:一个将我们标记为安全风险;另一个则将Claude标记为国家安全的关键。”


尽管阿莫代伊已经表示公司将不会遵从五角大楼的要求,但与此同时,人类公司已修订其负责任的扩展政策,放弃了在未能提供保障的情况下停止训练高级系统的承诺。


公民公众联合会的共同主席罗伯特·维斯曼表示,五角大楼的姿态表明了对科技行业更广泛的压力。


维斯曼告诉Decrypt:“五角大楼公开对人类公司施加压力,而公开部分是有意的,因为他们想要施压这一特定公司,并向所有大型科技公司和所有企业传达信息——我们打算随心所欲,不要干扰我们的计划。”


维斯曼将人类公司的安全保护措施形容为“适度的”,旨在防止“对美国人民的不当监控或促进杀人机器人、能够在没有人类批准的情况下发起致命攻击的人工智能武器的发展和部署。”


“当涉及到这种强大新技术时,这些是你能够提出的最明智和适度的安全保护措施。”


关于五角大楼威胁将人类公司标记为“供应链风险”,维斯曼称其为政府可能施加的压倒性惩罚,并争辩说这将迫使其他人工智能公司避免施加类似限制。


他说:“个人可能会使用Claude,但没有任何人工智能公司,尤其是人类公司,拥有基于个人使用的商业模式;他们正在寻求商业用途。这是政府可能施加的压倒性惩罚。”


虽然五角大楼尚未表明是否计划继续实施终止合同或启动国防生产法的威胁,维斯曼表示,五角大楼向人工智能公司发出信号,表示一旦其技术在政府系统中部署,期望获得无限制访问。


维斯曼说:“五角大楼的信息是,‘我们不会容忍这一点,并且希望能够根据发明技术的任何目的自由使用它。’”


国防部和人类公司尚未立即回应Decrypt的评论请求。


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接