黑客正用 AI 把攻击成本降到归零,互联网该如何自救?

CN
39 分鐘前
AI Agent 正在将网络攻击成本推向归零,但也正在催生从被动防御走向代码大迁移、形式化验证与双轨互联网的“反脆弱”安全范式。

作者:Jay Yu,USV 投资机构研究员、前斯坦福加密与哲学研究员

编译:深潮 TechFlow

深潮导读:互联网最初被设计为具有容灾能力的分布式网络,但如今已演变成高度脆弱的代码依赖链。近期一系列安全事件表明,AI Agent 正在急剧降低恶意利用的边际成本,将现代软件栈暴露在全新维度的系统性风险之下。

然而危机背后亦蕴含转机,AI Agent 正在促成自动化代码安全迁移与形式化验证,推动密码学技术与双轨流量分流机制的加速落地。通过让系统在攻击与试错中进化,软件生态有望蜕变为具备自我强化特性的反脆弱体系。

最初的互联网设计本应具备反脆弱性。早期的网络架构师设想它能够承受外部打击,即便部分节点瘫痪,其余部分仍能维持运转。

然而,如今的互联网已经演变成一座由代码库、第三方依赖与开发环境堆砌而成的脆弱危楼。整座大厦维系在少数关键组件之上,平时极少有人维护,更少有人对其进行系统性审计。

图:xkcd #2347,依赖关系(Randall Munroe)

2026 年 10 月发生的一系列安全事件,集中暴露了这些基础组件在 Agent 自动化攻击面前的极度脆弱:

PHP 远程代码执行漏洞:爆发了名为 PHP2Shell 的严重漏洞,导致全球超过 500 万台主机暴露在远程接管的风险之下。

LiteLLM 供应链劫持:其发布流水线遭到恶意篡改,携带窃取凭据恶意代码的版本被直接推送到官方 PyPI 仓库。

Railway 密钥解密攻击:多达 10 万个工作区的存储机密遭到攻击者解密,黑客主要针对其中的 AI API 密钥 进行系统性搜寻。

Fireworks AI 双重入侵:该平台遭遇了两次入侵,先是自身凭据意外泄露,随后其依赖的云服务商再次遭到黑客攻破。

eMudhra 签名密钥极度脆弱:作为权威证书机构(CA),其签发的受信签名密钥甚至出现了薄弱到仅仅为数字 4 的荒谬漏洞。

币安热钱包遭遇巨额盗窃:从热钱包中失窃了创纪录的 $63 亿 资产,美国联邦调查局(FBI)将此次攻击归咎于朝鲜黑客组织。

这一连串攻击事件表明,Agent 在网络攻防中作为攻击性威胁具有何等巨大的破坏力。但在硬币的另一面,Agent 也可能是解决这一系统性难题的关键依托。

Agent 能够大幅加速软件向更安全编程语言以及形式化验证的迁移进程,推动零知识证明(ZKP)和受信执行环境(TEE)等前沿密码学组件的普及应用。

同时,Agent 还将催生由身份认证与内容核验机制把守的“双轨互联网”,使人类与自动化 Agent 的网络流量得以安全隔离与分流。

随着 Agent 让软件编写的成本大幅下降,最具价值的代码库将越来越像活体生态系统。前沿模型将对其展开不间断的渗透测试,每一次迭代都在强化代码、语言与工具链,从根源上消除整类安全缺陷。

借由这种方式,我们可以利用 Agent 将互联网淬炼为真正的反脆弱实体,让每一个新接入的 Agent 都能使整个网络更加坚韧,而非更加脆弱。

核心问题:作为武器、目标与冒充者的 Agent

随着 Agent 在现代经济体系中加速渗透,它们正从三个截然不同的维度重塑互联网的底层运行架构。

首先,Agent 正在成为攻击者的致命武器。传统旧系统之所以长期保持相对安全,很大程度上是因为寻找并利用其缺陷的边际成本过高。然而,Agent 正在将攻击的成本拉向极限归零。

以 PHP2Shell 为例,这一漏洞在 PHP 中沉睡了十余年。尽管研究人员最终发现了它,但安全团队借助前沿模型仅在短短数小时内就将理论缺陷转化为了可实战的利用工具。

正如云安全机构 Wiz 所指出的那样:“随着人工智能大幅降低开发复杂攻击载荷的门槛,那些曾经被认为难以利用的漏洞如今都变成了高价值攻击目标。”

网络攻击者早已开始借助这种杠杆效应。在 Anthropic 披露的一起间谍活动中,AI 自主完成了 80% 至 90% 的攻击行动。2026 年 10 月的系列事件展现了同样的互联网级扩散模式:在一个单点快速破局,并向数百万个目标铺开打击。

其次,Agent 本身正在成为高价值的被攻击目标。当前大量新代码正是由这些自动化工具编写的,然而无论是 Agent 自身还是由其生成的代码,都充斥着易受攻击的薄弱点。

由于拥有广泛的工具调用权限且运行在缺乏约束的环境中,无论是 Muse、Instinct 等消费级 Agent,还是 Sierra、Decagon 等企业级 Agent,都暴露在日趋复杂的提示词注入攻击风险之中。

与此同时,Agent 在自主编写代码时也可能无意间引入更多未知漏洞。例如,LiteLLM 近期的安全事故,很可能源于某个编码 Agent 意外将 GitHub 访问令牌打印到了日志文件当中。

更严峻的是,即使委托编码 Agent 修复现有的安全漏洞,其自主实施方案的可靠性往往仍然欠佳,甚至可能引入新的次生隐患。

第三,Agent 还可以化身为虚假冒充者,深刻冲击现有互联网的流量规则与信任基石。Cloudflare 数据表明,2026 年已有接近一半的网络流量非人类产生。

Cloudflare 首席执行官 Matthew Prince 预计,在未来 5 年内,自动化网络流量将达到人类在线流量的 1000 倍。如此庞大的 Agent 访问浪潮,正在对原本为人类浏览设计的网站带来巨大冲击。

维基媒体基金会指出,其平台在 2026 年 10 月遭遇了数百万次来自 OpenAI 未授权 Agent 的异常访问,这直接导致了旗下维基数据服务的意外中断。

类似地,一位用户的 Instinct 订餐 Agent 每小时向订座平台 Resy 发起数百次高频请求,直至其整个账号被平台彻底封禁。

虽然行业已开始探索用于标记 Agent 流量的规范,例如 Meta 与 Sierra 发起的个人 Agent 协议(PAP),但仅凭这些倡议依然远远不够。

在现实利益驱动下,Agent 往往有强烈的动机隐匿自身身份。许多网站仍然将一切非人类流量视作恶意访问,一旦 Agent 主动报备真实身份,可能在任务执行中途直接遭到拦截,而伪装成人类反而能蒙混过关。

应对策略:观察、执行与预防失效模式

将 Agent 定性为“武器、目标与冒充者”阐明了风险的来源,但并未指出应对的具体路径。为此,我们可以引入第二个维度,涵盖三种应对机制:

观察(Observe):排查系统安全漏洞,并对 Agent 的各项行为活动进行实时监控;

执行(Enforce):加速漏洞修复,并严格收紧限制 Agent 能够触碰的系统资源边界;

预防(Prevent):在系统架构层面消除隐患,从根源上阻止整类故障模式的发生。

将这两个维度交叉组合,便能勾勒出一幅当前初创企业在安全赛道中的宏观定位全景图。

纵观这一全景图,我们可以清晰观察到若干显著趋势。绝大多数企业以及市场中可见的庞大资本,目前都聚集在“观察”与“执行”这两层。

这两个层面构成了切入市场的最快抓手,能够顺畅融入企业现有的软件技术栈。该领域已经涌现出诸多资金实力雄厚的大型玩家,包括完成融资 $1.25 亿 的 Socket、完成 $8000 万 B 轮融资的 Braintrust,以及累计融资达 $4.45 亿 的 Armadin 等。

在反脆弱互联网的技术栈中,能够在“观察”与“执行”层最终胜出的企业,大概率是那些能够捕获最多 Agent 操作日志的平台。

谁掌握了最丰富的 Agent 行为数据,谁就能制定出最精准的安全策略,这可以说是该市场目前最接近网络效应的壁垒所在。如果检测能力的提升与数据积累紧密复合,那么能够观察跨多客户、跨多模型的独立安全商,将比单一模型实验室更具竞争优势。

然而从长远来看,网络安全更具决定意义的答案,在于如何从根源上消除整类安全漏洞。所谓“预防”,是指从底层重构软件与 Agent,使某一整类故障根本无法发生。

历史经验表明,这种系统性范式变革往往需要三种要素同时成熟:其一是让安全代价充分显性化的外力冲击;其二是极易集成进日常工作流的基础工具;其三是推动其成为默认事实标准的强制外力。

以内存安全为例,微软历史上近 70% 的 CVE 漏洞均与内存安全相关。随着 Rust 语言成为可行的替代方案,它在 Agent 系统底层编程中获得了极高的采用率,如今已是增速最快的编程语言之一。

HTTPS 的普及同样经历了这一经典路径:斯诺登的爆料带来了强烈的舆论震动,Let’s Encrypt 提供了免费且极简的工具支持,而 Chrome 浏览器将 HTTP 标为“不安全”则给出了决定性的外力推力。

如今,2026 年 10 月的一系列重大攻击构成了足够强烈的现实冲击。对应的核心工具可能是日渐成熟的形式化验证工具链,而推动标准落地的外力则可能来自评测沙箱、监管合规要求或功能层面的网络效应。

此外,当 Agent 成为互联网流量的主流时,身份认证与网络安全的问题将高度合流。在云计算时代,Okta 与 Wiz 作为两家独立公司,分别解决了“谁有权访问哪些云资源”这一问题的不同切面。

如今的 Agent 同样面临着资源授权的严峻考验,尤其是当它们通过 API、MCP 以及各类外部连接器访问关联上下文知识库时,这一问题变得尤为突出。

在 Agent 身份认证领域,当前涌现出了两种互补的解题思路:身份源头证明与内容行为核验。对于由 Agent 主导的互联网体系而言,这两者皆不可或缺。

身份源头证明包含数字签名请求,以及如 PAP 或 A2A 等用于确权主体与内容的身份协议。但在实际任务中,恶意主体绝不会自愿遵守这些规范。

此时就需要内容行为核验发挥兜底作用:通过基于真实网络行为轨迹与输出内容的决策树进行研判,即便访问者未佩戴任何身份标识,网站依然能够准确识别其背后的自动化机器人身份。

未来数年塑造反脆弱互联网的演进方向

在未来数年间,几股核心技术力量将共同推动反脆弱互联网的发展与成熟:

代码大迁移

首先,在局面彻底好转之前,安全形势很可能会经历一段更加动荡的阵痛期。全球现存着数量惊人的传统旧系统,它们大多写于漏洞挖掘成本高昂的旧时代。然而随着 Agent 将攻击成本拉至接近零,这一安全前提已不复存在。

这一系列前所未有的安全冲击,将在未来 1 至 2 年内倒逼一场波澜壮阔的“代码大迁移”:软件技术栈将加速淘汰陈旧易损的遗留架构,全面倒向更现代、更具反脆弱性的技术体系。

在过去,依靠人工将庞大遗留代码库重写为 TypeScript 或 Rust 等更安全的高级语言,是一项极其耗时且成本高昂的艰巨工程。但 Agent 的出现彻底颠覆了这项任务的经济模型。

例如,GitHub Copilot 在短短 3 个月内便将其核心运行时顺利迁移为 83.2 万行 Rust 代码,且几乎仅由一名工程师主导完成。在过去,这需要一整支团队耗费一至两年的时间。

同样地,全新且更具安全保障的 AI 模型也在以惊人的速度被开发者接纳。例如 TypeSafe 推出的 Jev 模型,能够返回类型化的结构化决策而非不受约束的发散文本,在发布仅一天之内就渗透了 Vercel 付费 AI 网关团队的近 13%。

如今,一套围绕 Agentic 自动化编码量身定制的全新安全工具栈正在自底向上重塑:涵盖代码审查(Greptile)、代码与密钥扫描(Semgrep)、恶意依赖包检测(Socket)、运行时故障捕获(Raindrop)以及线上生产事故应急响应(Resolve AI)。

在其底层,全新的基础设施部署层亦在加速成型,包括轻量级运行沙箱(E2B、Daytona)以及工具授权层(Composio、Nango、Arcade)。它们共同汇聚成一套反脆弱的开发者技术栈,在开发、测试与部署全周期中捕捉的每一个漏洞,都能即时反哺为下一行代码的安全防御养分。

随着代码迁移成本的急剧降低,形式化验证有望在编译器与工具链层迎来全面复兴。例如在 Theorem 与 Anthropic 的合作研究中,Claude 成功为超过 100 个开源代码库 严格证明了关键安全属性。

当然,代码大迁移也伴随着潜在的阵痛与风险。重写大型系统历来极易滋生二次隐患,即便是前沿模型编写的代码,在具体实现上也可能欠缺稳健,甚至带入大量新缺陷。

形式化验证同样并非万灵丹,其有效性完全取决于前置规格说明的严密程度。即便是像 Lean 这样严谨的证明系统,自身内核也可能隐藏着破坏数学严密性的基础缺陷。要实现真正的安全闭环,必须仰赖严密的架构设计、精确收敛的规格说明以及对交付成果的持续高强度渗透实测。

原生内嵌于应用的安全设计

在消费级应用领域,隐私与安全技术要想真正实现大规模普及,最行之有效的路径或许是将其“隐形”于产品之中:让应用凭借卓越的用户体验与极简的开发集成率先赢得市场,而非将安全作为单独付费的功能模块售卖。

我们在加密领域的“钱包即服务”(WaaS)赛道中早已见证过这一规律。以 Privy 和 Turnkey 为代表的明星产品,将受信执行环境(TEE)与多方安全计算(MPC)等复杂的密码学底层机制完全封装在简洁的 API 与丝滑的交互之后。

我们很可能会在 Agent 生态中目睹相同的演进路径:更安全的默认配置并非源于用户额外购买安全软件,而是由更优质的应用程序与开发工具原生自带。安全防御正如出租车上的安全带,乘客是为了快速出行而选择打车,而安全守护早已作为基础设施内嵌其中。

这种悄无声息的技术扩散,目前正在零知识证明(ZKP)与 TEE 领域逐步上演。World ID 如今已为全球超过 1800 万人完成了真人身份核验,企业团队可以在 Zoom 会议中无缝接入该技术,直观甄别参会成员是否为真实人类。

WhatsApp 推出的隐私对话功能,则将 Meta AI 的交互对话直接置于 TEE 环境 中运行,确保即便是 Meta 官方也无法窥探内容。在这些标杆案例中,尖端密码学无声隐匿于日常熟悉的界面背后,用户无需承担任何额外的操作心智负担。

与此同时,私有化与本地化运行模型是隐私防护深度内嵌的另一大重要载体。在 2026 年,开源权重模型与顶尖闭源前沿模型之间的能力差距已经缩窄至约 4 个月。

随着小型端侧模型性价比的持续提升以及终端芯片计算性能的飞跃,本地推理在 AI Token 总消耗中的占比将大幅攀升。随着算力由云端向边缘迁移,网络安全威胁的形态也将发生深刻变化。

敏感数据离开本地终端的频率显著减少,这从物理上消除了某一大类数据泄漏风险。但与此同时,一旦个人电脑或家庭服务器失陷,就可能被攻击者篡改为具备高度信任权限的恶意 Agent 宿主,将对抗防线直接拉至用户掌控的硬件设备之上。

这可能会催生面向本地运行环境的 Agent 治理框架,让模型、调用工具与操作日志在受控硬件上协同运转,甚至为专门承载家庭或团队自动化 Agent 的全新软硬件形态开辟广阔的市场空间。

双轨互联网

Agent 与互联网的交互模式,与人类用户的行为逻辑有着本质区别。随着 Agent 流量呈现指数级增长,整个 Web 正在分流为两条平行的车道:一条是由 Parallel、Browserbase 和 Kernel 等底层支撑的 Agent 专用访问车道;另一条则是面向人类的传统车道。

网络层将依据请求背后的真实主体进行更为智能的动态路由。网站所有者可以利用这些多维度身份验证手段对流量进行精细化过滤,并针对不同主体授予差异化的交互权限,而无需粗暴地将自动化 Agent 完全拒之门外。

这就好比一家餐饮门店,同一间中央厨房既可以高效服务汽车穿梭窗口的快节奏取餐,也能为堂食顾客提供沉浸式的就餐体验。网站能够根据不同的请求来源,以最适宜的数据形态和接口精准分发内容。

随着时间的推移,在这条专属于 Agent 的高速车道上,Agent 之间的直接协作与对话将日益频繁。在消费端与企业级 Agent 深度普及的背景下,未来我们将司空见惯这样的场景:用户的个人智能助理直接与外卖平台的智能接单系统展开博弈,为用户实时争取个性化的优惠价格与专属服务权益。

在诸如 Anthropic 发起的 Project Swap 等早期实验中,我们已经见证了 Agent 间交互协作的雏形。

在这些复杂场景中,每个 Agent 都掌握着关于其委托人的私密信息。决定在博弈中透露多少偏好与机密,亟需坚固的安全护栏:包括 Agent 的履约权限、不可篡改的交易记录,以及事后仲裁与审计机制。

在这些高度复杂的 Agent 间博弈与协作中,仅仅知晓对方的数字身份远远不够。委托人与其交易对手都会迫切希望获悉该 Agent 过往的信誉轨迹:它是否按时履约支付、是否信守承诺、是否曾恶意泄露过商业机密等。

具备高可移植性的 Agent 信誉系统将成为数字身份不可或缺的重要孪生组件。但这同样抛出了一个深刻的问题:究竟该由谁来跨应用维护一套通用的 Agent 声誉机制,以及我们该如何防止它沦为另一个高度中心化的数字权力寻租关卡?

迈向反脆弱互联网

如果说近期这波由 Agent 驱动的攻击浪潮教会了我们什么,那就是万物皆可被攻破。新的漏洞与新型攻击手法将层出不穷,而最前沿的自主 Agent 往往会率先发现它们。

然而,决定一个网络是否具备“反脆弱性”的根本标准,在于我们的系统面对这些不可避免的冲击时如何自我适应与完成进化。我们所追求的目标,是通过底层架构设计最大程度杜绝已知缺陷,对暴露的薄弱点实施铁腕防护,并在一次次对抗中持续淬炼升级全套系统架构与开发工具链。

在工程实践中,这体现为一个闭环的安全演进飞轮:前沿模型全天候不间断地扮演攻防对手展开实战渗透,其碰撞出的研究成果不仅即时修补上层业务代码,更直接沉淀并升级底层的工具链体系与底层编程语言。

这一切由新一代 Agent 开发者技术栈协同驱动,实现代码缺陷的秒级捕捉、自动修复与安全迁移。更理想的是,形式化验证能够深度嵌入编译器底层,其前置证明假设接受同一批顶尖对抗模型的极限挑战。被揪出的每一个漏洞,都在为整个飞轮注入养料,最终使互联网整体在持续碰撞中变得愈发坚韧不可摧。

放眼全局,构建一个无需许可、自主运转且具备反脆弱特性的互联网,与区块链及加密货币诞生初期的核心愿景高度共鸣。这正是我们在 USV 过去十年间持续深耕与重仓投资的核心主线。

区块链技术首次向人类证明了互不相识的陌生主体如何在零信任前提下达成安全协作,并成功在对信任要求最严苛的资产交易领域得到了验证。但此前受制于高昂的开发成本与相对笨拙的基础设施,这种去中心化信任理念在金融之外的领域推进得十分缓慢。

随着 Agent 让整个互联网生态变得空前复杂和具备多人协作属性,我们迎来了将加密理念深植于大众成熟产品与底层协议的最佳历史契机。去中心化自治组织(DAO)等原生范式,为我们洞察未来多 Agent 集群协同作战的组织形态提供了一幅极具启发性的演进雏形。

回溯互联网最初的创想,它的拓扑结构本被构想为:每增加一个网络节点,整个系统的稳固性便随之增强一分。今天,虽然野蛮生长的 Agent 正在冲击这一经典设计,但它们同样蕴含着修复并实现这一崇高愿景的强大潜能。

在 USV,我们希望围绕“反脆弱互联网”展开三个维度的核心布局:

彻底根除,而非修补自动化:秉持我们长久以来的投资理念,我们更青睐那些在架构设计之初就彻底消灭整类安全漏洞的技术路线,而非停留在事后被动打补丁的低效循环中;

捕捉边缘安全数据:基于我们在边缘计算领域的长期思考,我们深信 Agent 的底层安全运行日志具备极其强大的网络效应,谁掌握了最丰富的全景行为数据,谁就能打造出最安全防御体系;

构建安全阵营同盟:我们将 Agent 安全视为现代软件工具链不可分割的一部分,致力于投资那些将坚不可摧的底层安全护栏,无缝封装进极简用户界面与极致开发者体验之中的优秀工具、工作流与基础设施协议。

如果你正在沿着这些方向构建未来,欢迎随时与我们取得联系,我们期待与你并肩同行,共同筑造坚不可摧的反脆弱互联网。

脚注与致谢

[1] 纳西姆·塔勒布在《反脆弱》一书中指出:“脆弱的事物在面对外部冲击时容易破碎;具备强韧性的事物能够抵御冲击并维持原状;而反脆弱的事物则能在冲击与压力中不断汲取养分,变得越来越强大。”

在互联网语境下,这意味着整个网络不仅能够承受局部节点的瘫痪攻击,更能随着更多 Agent 的持续接入以及更多漏洞的主动排查与闭合,变得日益坚不可摧。

特别致谢 Aric Chang、Ben Colman、David Gabeau、Hari Mulackal、Henri Stern 与 Jonathan Rotbard 对本文初稿提出的宝贵建议。

感谢 Kushagra Aryal、Madeleine Charity、Max Segall、Mike Leffer、Spencer Yen、Zayne Zhang 以及整个 USV 团队在本文探讨中给予的深刻启发。

免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到[email protected],本平台相关工作人员将会进行核查。

分享至:
APP下載

X

Telegram

Facebook

Reddit

複製鏈接