对 人工智能代理 的进展可能正在打开通往新的网络安全威胁的大门：能够实时生成攻击策略并自主在网络中传播的自适应计算机病毒，新研究警告说。

这篇来自多伦多大学、向量研究所、剑桥大学和ServiceNow的论文，描述了一种概念证明的人工智能驱动的蠕虫，它能够识别漏洞，制定量身定制的攻击路径，入侵系统，并在网络中自我复制，同时根据不同的目标调整其战术。

“我们必须为自主生成的对手做好准备，”研究人员写道。“那些无需人类操作者而传播的恶意软件系统，并不是由固定的利用代码定义，而是由对目标进行推理的能力、适应观察的能力以及实时合成攻击逻辑的能力所定义。”

计算机蠕虫是一种自我复制的恶意软件，能够在易受攻击的网络中自动传播。蠕虫爆发，包括2000年的ILOVEYOU恶意软件和2017年的WannaCry，感染了全球数百万台计算机，干扰了关键服务，并造成数十亿美元的损失。



最近，Shai-Hulud恶意软件显示了自我传播攻击如何在线传播，感染了包括OpenAI和Mistral在内的主要公司使用的软件。

根据新研究，研究人员表示，将他们的人工智能驱动的蠕虫与早期版本区分开来的是其适应不同目标的能力，使用大型语言模型来识别漏洞并实时生成攻击策略，而不是依赖固定的利用集。

“传统蠕虫，比如WannaCry，利用预先确定的漏洞，其传播可以通过修补这些漏洞来阻止，”他们写道。“在这里，我们展示了人工智能代理使一种根本新威胁成为可能：一种为每个遇到的目标生成量身定制攻击策略的蠕虫。”

在研究中，团队在一个包含33个Linux、Windows和物联网系统的隔离虚拟网络中测试了这个蠕虫，这些系统填充了常见的漏洞。在15次实验中，蠕虫平均识别出31.3个漏洞，成功入侵23.1个主机，并在七天的自主操作中传播到大约20台机器。

在某些测试中，研究表示恶意软件能够达到七代自我复制，而且与许多人工智能应用不同，这个蠕虫并不依赖于访问人工智能云服务。

这个恶意软件并不依赖于像AWS、微软Azure或谷歌云这样的提供商的云基础设施，而是在被攻陷的机器上直接运行人工智能模型。随着它的传播，被感染的系统有效地成为其计算基础设施的一部分。

研究人员还发现，系统能够利用在模型训练截止后披露的漏洞，通过在运行时获取新发布的安全建议，从而允许其纳入未包含在模型原始训练数据中的信息。

虽然测试是在一个受控环境中进行的，但作者承认这项工作的双重使用性质，并故意隐瞒了一些技术细节以减少被滥用的风险。

“在发布这篇预印本之前，我们对手稿进行了编辑，以确保我们方法的展示在社区研究这一新威胁所需的详细程度与恶意行为者利用我们的方法创建恶意软件的风险之间取得平衡，”他们说。

尽管如此，研究人员表示，该项目旨在更好地理解自适应计算机蠕虫所带来的风险，并提供证据表明人工智能驱动的网络能力已经发展到何种程度。

“因此，解决这一威胁将需要研究、安全、工业和政策社区之间的协调行动：测试基于能力的评估框架、针对自主代理行为特征的检测系统，以及考虑开放权重推理的去中心化性质的监管措施，”他们写道。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。