
需要了解的信息:安全研究人员警告称,“LLM路由器”——位于用户与AI模型之间的服务——正在成为强大的攻击点,可以拦截和更改敏感数据。该团队记录了现实世界中的滥用情况,包括26个路由器秘密注入恶意工具调用,窃取凭证并使客户的加密钱包损失50万美元。随着行业领袖预测AI代理将很快调解数万亿美元的商业交易并主导加密交易,研究人员表示,大多数未受监管的路由器基础设施为用户的资金和系统带来了级联的、最薄弱环节的风险。
加密货币行业正迅速迈向一个未来,AI代理处理从预订航班到执行交易和进行支付的一切事务,但新的研究表明,支撑这一转变的基础设施可能并不安全。
麦肯锡最近预测,到2030年,AI代理可能调解3万亿至5万亿的全球消费者商业活动。
Coinbase创始人布赖恩·阿姆斯特朗 在X上表示,“很快”将有更多的AI代理而非人类在互联网上进行交易。币安创始人赵长鹏更为大胆, 预测代理将进行比人类多一百万倍的支付,全部用加密货币。
但是,一组安全学者和加密研究人员 发布了一篇论文,解释一个被广泛忽视的AI基础设施已经被用来窃取凭证,甚至耗尽加密钱包。
论文的作者是与加利福尼亚大学圣巴巴拉分校、加利福尼亚大学圣地亚哥分校、区块链公司Fuzzland和世界自由金融公司相关的研究人员。
强大的攻击点
该团队发现,所谓的“LLM路由器”或位于用户与AI模型之间的服务,可以成为恶意行为者利用的强大攻击点。这些路由器设计用于将请求转发给像OpenAI或Anthropic这样的模型,但它们也能够完全访问通过它们传递的所有内容,包括敏感数据。
研究人员写道:“LLM代理已超越对话助手,成为代表用户预订航班、执行代码和管理基础设施的系统。”他们强调了这些工具如何迅速承担现实世界中财务和运营任务。
LLM路由器或攻击点使用户极度脆弱,因为他们假设自己正在与像OpenAI、Grok等声誉良好的AI模型直接互动,而实际上许多请求都是通过可以查看和修改该数据的中介服务传递的,研究人员说。
根据研究员Shou Chaofan的说法,这一问题不再是理论性的。他 在X上写道,“26个LLM路由器正在秘密注入恶意工具调用并窃取凭证。一个使我们的客户端损失了50万美元的钱包。我们还成功地破坏了路由器以将流量转发给我们。在几小时内,我们可以直接接管约400个主机。”
研究人员写道:“恶意路由器可以用攻击者控制的命令替换良性命令,或者悄无声息地窃取通过它的每一个凭证。”
研究人员表示,由于这些系统可以自主运行,包括经常在没有人工审查的情况下批准和执行操作,因此单个更改的指令可以立即危害系统或资金。
对于加密用户来说,隐私密钥、API凭证和钱包访问令牌通常以明文形式通过这些系统传递,这有严重的影响。研究人员发现多个案例,路由器简单地收集了这些秘密,论文揭示了这一点。在一个实例中,一个测试的以太坊钱包在其私钥被曝光后被耗尽。
论文作者指出:“一旦暴露,凭证如私钥可以在用户不知情的情况下被复制和重复使用。”
级联风险
该团队还展示了扩大攻击的简单性。通过“破坏”路由器生态系统的部分,实质上是欺骗服务转发流量,他们能够在数小时内观察和潜在控制数百个下游系统。
研究人员写道:“链中的单个恶意路由器足以危害整个系统,”强调了他们所描述的最薄弱环节问题。
这表明,即使用户信任他们的AI提供者,介于其间的基础设施也可能不可信,他们在论文中指出。
这造成了潜在的不匹配,因为行业领导者越来越预测AI代理将处理越来越多的加密活动,而基础设施仍然缺乏确保输出没有被篡改的保证,他们补充道。
免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。