根据特拉维夫大学、以色列理工学院和Intuit的新研究，人工智能的幻觉可能不仅仅是错误的答案，它们可能成为黑客妥协计算机的一种方式。

在论文《提防主动性僵尸网络：通过通用和可转移的对抗性幻觉蹲点进行可扩展的无目标提示攻击》中，研究人员展示了一种在人工智能模型生成虚假链接到软件库和其他在线资源时利用这些模型的技术。



研究人员写道：“主动性大型语言模型应用程序的日益普及引入了一种新的威胁，之前被称为提示软件。虽然之前的工作已经确定对手可以利用直接通道对大型语言模型应用程序应用提示软件，且在弱威胁模型下进行攻击，但许多应用程序并未提供任何直接通道，供提示注入利用，超出了互联网的范围。”

这种被称为对抗性幻觉蹲点或“HalluSquatting”的攻击涉及预测人工智能模型可能创建的虚假资源，注册这些名称，并添加恶意指令。如果人工智能代理后来检索到这个幻觉资源，它可能会将攻击者控制的内容视为合法。

研究人员表示，随着人工智能助理超越回答问题，获得与计算机互动的能力（访问文件、搜索网络、写代码和运行命令），这一威胁会出现。

当代理根据检索到的信息采取行动时，这些能力可能会造成安全漏洞，因为它们未能确认信息来源是否真实。

他们写道：“正在进行的研究已经证明了针对现实世界系统的各种提示软件攻击变体，包括ChatGPT、Google Assistant、Copilot以及其他各种应用程序。这些工作证明，提示软件可能导致财务、隐私和安全影响。”

研究人员警告说，这种技术可能允许攻击者构建支持人工智能的僵尸网络。一个僵尸网络指的是一组被感染的计算机或设备，远程受到攻击者的控制。僵尸网络通常用于网络攻击，包括拒绝服务攻击、加密货币挖掘、恶意软件分发和勒索软件活动。

在测试中，研究人员发现人工智能生成的资源幻觉在软件库克隆场景中发生的比例高达85%，而在技能安装测试中则达到100%。

研究团队针对包括Cursor、GitHub Copilot、Gemini CLI和OpenClaw的人工智能编码助手和代理进行了评估。

HalluSquatting类似于拼写蹲点，这是一种网络攻击战术，攻击者注册类似合法网站或软件包的域名以欺骗用户。HalluSquatting不是利用人类的打字错误，而是针对人工智能模型所犯的错误。

此消息传出之际，研究人员继续测试攻击者如何操控人工智能代理。

在四月份，谷歌研究人员详细介绍了旨在通过间接提示注入攻击劫持人工智能代理的恶意网站，包括试图窃取密码、删除文件和操纵支付的尝试。另一项关于“CopyPasta”攻击的研究展示了开发者文件中的隐藏提示如何操控人工智能编码助手传播恶意代码。

在六月，一名OpenClaw用户报告称遭遇超过6,000次攻击者试图欺骗人工智能代理泄露敏感信息的攻击。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。