OpenAI 在四月底发布了 隐私过滤器——一个小型的开放权重模型,旨在检测并自动删除文本中的个人可识别信息。它以 Apache 2.0 许可方式在 Hugging Face 上发布,并迅速吸引了开发者的兴趣。有人注意到了这一点。
几天之内,一个名为“Open-OSS”的虚假账户发布了一个几乎完全相同的代码库,称为隐私过滤器。该模型卡片的内容逐字复制自 OpenAI 的。唯一的不同之处在于 “readme” 文件中:说明如何克隆该代码库并在 Windows 上运行名为 start.bat 的文件,或在 Linux 和 Mac 上运行 loader.py。
在 18 小时内,假冒代码库在 Hugging Face 的热门页面上排名第一——累计大约 244,000 次下载和 667 个赞。HiddenLayer,这家 AI 安全公司标记了这一活动,发现这 667 个赞中有 657 个来自符合可预测自动生成的机器人命名模式的账户。
下载数量几乎肯定以同样的方式被夸大。制造的社交证明让诱饵看起来真实。
恶意软件的实际工作原理
恶意软件基本上就像一颗包裹在非常诱人的糖衣中的毒药,loader.py 脚本以虚假的模型训练输出开头——进度条、合成数据集、虚拟类名——设计得看起来像是一个真正的 AI 加载器在运行。
在后台,它悄悄地禁用了安全检查,从一个公共 JSON 粘贴网站拉取编码命令(一个聪明的技巧:当有效载荷变化时无需更新代码库),并将该命令传递给在后台完全隐藏运行的 PowerShell。Windows 用户什么也看不见。
该命令从一个模仿区块链分析 API 的域名下载一个第二个脚本。该脚本下载实际的恶意软件——一个用 Rust 编写的定制信息窃取程序——将其添加到 Windows Defender 的排除列表中,然后通过计划任务以系统级权限启动该恶意软件,任务完成后立即自我删除。整个链条运行并在完成后自我清理,几乎不留痕迹。
最终的有效负载非常彻底。它抓取保存在 Chrome 和 Firefox 中的所有内容——保存的密码、会话 cookie、浏览历史、加密密钥,所有的一切。它瞄准 Discord 账户、加密货币钱包的种子短语、SSH 密钥、FTP 凭证,并在所有监视器上截图。然后将所有内容打包为压缩的 JSON 包,发送到攻击者控制的服务器。
我们无需告诉您黑客稍后可以用所有这些信息做什么。
该恶意软件还检查它是否在虚拟机或安全沙盒中运行,如果检测到其中之一,它会悄悄退出。它的设计是在真实目标上运行一次,窃取所有内容,然后消失。
为什么这比一个代码库更重要
这不是一个孤立的事件。这是一个模式的组成部分。HiddenLayer 识别出在名为 “anthfu” 的单独 Hugging Face 账户下,还有另外六个代码库,在四月底上传,使用完全相同的恶意加载程序指向完全相同的命令服务器。这些代码库冒充诸如 Qwen3、DeepSeek 和 Bonsai 等模型,以诱骗 AI 开发者。
基础设施本身——一个名为 api.eth-fastscan.org 的域名——也被观察到托管一个指向命令服务器的单独恶意软件样本。HiddenLayer 认为这两个活动之间的联系“可能有关联”,并警告说,仅共享基础设施并不能确认单一操作者。
这就是 针对 AI 开发者社区的供应链攻击的样子。攻击者并没有入侵 OpenAI 或 Hugging Face。他们只是发布一个诱人的相似物,利用机器人操控流行算法,等待开发者完成其余工作。一个 类似的剧本 于 2024 年袭击了 Lottie Player JavaScript 库,让一名用户损失了 10 个比特币(当时价值超过 700,000 美元)。
如果您下载了它,怎么办?
如果您在 Windows 机器上克隆了 Open-OSS/privacy-filter 并运行了其中的任何文件,则应将该设备视为完全被攻陷。在擦除之前,不要从该机器登录任何账户。
之后,立即更改浏览器中存储的所有凭证——密码、会话 cookie、OAuth 令牌。尽快将任何加密货币资金转移到在干净设备上生成的新钱包,并假定种子短语已经被窃取。
由于它还获取了您的 Discord 信息,而该服务受到严重自动化的影响,您应该使 Discord 会话失效并重置该密码。该机器上的任何 SSH 密钥或 FTP 凭证都应视为已被烧毁。
该代码库现已被删除。Huggingface 尚未披露其计划为热门代码库实施的任何其他筛选措施。
到目前为止,已经确认该活动中有七个恶意代码库被识别。还有多少个存在——或者在被检测到之前存在——仍然未知。
免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。