美国立法者据报道已召集几家人工智能开发公司，解释某些模型如何成为广泛间谍活动的一部分。

其中包括Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei），他被要求在12月17日出席国会国土安全委员会，解释中国国家行为者如何使用Claude Code，依据Axios发布的报告，引用了私下分享的信件。

本月早些时候，Anthropic披露与中国国家有关联的黑客组织使用其工具Claude Code发起了该公司所描述的首个大规模网络行动，该行动在很大程度上由人工智能系统自动化。

以GTG-1002为组织名称，攻击者策划了一场针对约30个组织的活动，Anthropic表示，Claude Code处理了大部分阶段：侦察、漏洞扫描、利用创建、凭证收集和数据外泄。

后续调查由纽约州共和党众议员安德鲁·加巴里诺（Andrew Garbarino）主持，另外还有两位小组委员会主席。

委员会希望阿莫代伊详细说明Anthropic首次检测到该活动的确切时间，攻击者在不同阶段如何利用其模型，以及在活动进行过程中哪些安全措施失败或成功。根据Axios的报道，听证会还将包括谷歌云和Quantum Xchange的高管。

“我们第一次看到外国对手使用商业人工智能系统几乎完全执行网络行动，几乎没有人类参与，”加巴里诺在初步报告中引用的声明中说。“这应该引起每个联邦机构和每个关键基础设施部门的关注。”

Decrypt 已联系加巴里诺众议员、谷歌云、Quantum Xchange和Anthropic以获取评论。

国会的审查是在英国安全局MI5上周发出警报之后进行的，该警报警告英国立法者，称中国情报官员使用虚假招聘者资料来针对国会议员、贵族和议会工作人员。

尽管寻求“与中国继续经济关系”，但英国政府准备“在任何国家破坏我们的民主生活方式时进行挑战，”安全部长丹·贾维斯在声明中表示。

链上金融面临风险

在这种背景下，观察人士警告称，现在推动间谍活动的相同人工智能能力同样可以轻易加速金融盗窃。

“人工智能最可怕的地方在于速度，”人工智能研究实验室Eliza Labs的创始人肖·沃尔特斯（Shaw Walters）告诉Decrypt。“过去需要手动完成的工作现在可以大规模自动化。”

沃尔特斯解释说，这种逻辑可能危险得简单。如果国家行为者能够破解和操纵用于黑客活动的模型，下一步就是指挥自主人工智能“在不被发现的情况下抽取钱包或 siphon资金。”

人工智能代理可以“与目标建立融洽关系和信任，保持对话并让他们陷入骗局，”沃尔特斯解释道。

一旦经过充分训练，这些代理也可以“开始攻击链上合约，”沃尔特斯声称。

“即使是所谓的‘对齐’模型如Claude也会乐于帮助你找到‘你的’代码中的安全漏洞——当然，它不知道什么是你的，什么不是，而在试图提供帮助的过程中，它肯定会在许多合约中找到可以被抽取资金的漏洞，”他说。

但沃尔特斯表示，尽管针对这种攻击的响应“容易构建”，现实是“坏人试图绕过我们已经拥有的安全措施”，通过试图欺骗模型“做黑帽工作，认为它们是在帮助，而不是在伤害。”

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。