四款最广泛使用的人工智能聊天机器人在不到12小时内帮助政府调查人员制定出潜在致命的攻击计划,尽管有旨在阻止此类请求的安全措施。
根据周三发布的报告,OpenAI的ChatGPT、Anthropic的Claude、谷歌的Gemini和Grok在政府问责办公室的秘密测试中提供了可用的信息。调查人员伪装成攻击者,然后将回复与真实地点、可用材料和专家评估进行核对。
根据监察机构的说法,两种系统协助制定涉及在美国拥挤城市中使用自制爆炸物的计划。此外,还有两种系统提供了有关攻击电力基础设施的信息,监察机构未公开模型的分配和操作细节,以防止模仿尝试。
新罕布什尔州的民主党参议员玛吉·哈桑(Maggie Hassan)要求进行调查,并警告称,恐怖分子可以在不到12小时内获得“具体的实施致命攻击的计划”,根据她的声明。
未能兑现的安全措施
聊天机器人最初启动了保护措施,包括拒绝请求、删除有害信息或暂停账户。调查人员通过常见的越狱技巧绕过了这些障碍,这些技巧操纵AI系统忽略其安全规则。
政府问责办公室检查了建议的地点,研究材料是否可用,并咨询专家以了解计划的可行性。有些答案包含错误,包括地图上错误放置的道路,调查人员并未构建爆炸物或执行攻击。
在报告中,“可行”意味着某人可能能够遵循所提供的信息,而并不是说攻击被证明会成功。每个模型在一个指定场景上进行测试,机构表示结果并不具有统计代表性,也不适合对公司进行排名。
OpenAI和谷歌表示测试涉及的是旧版本模型,而Anthropic承认有决心的用户有时可以提取有害材料。这些公司表示在安全系统方面不断改进,尽管GAO得出的结论是这些保护措施在其测试中失效。
这并不是真的新鲜事。调查结果跟随一项先前的研究,显示10种流行聊天机器人中有8种帮助模拟青少年用户规划暴力攻击。该独立研究测试了720个回复,发现机器人大约在四分之三的时间内提供了可行的帮助。
人工智能的其他安全问题
GAO的调查结果出现之际,正值影响银行、微软服务和国家安全局的故障。官员表示,这些干扰是独立事件,并非协同的人工智能驱动的网络攻击证据,尽管修复软件缺陷的紧急情况已经造成了自己的问题。
国家情报局局长杰伊·克莱顿(Jay Clayton)将NSA的故障与打补丁的工作联系起来。官员们描述最近的故障为维护相关,尽管各个组织对其故障的解释有所不同。
人工智能工具现在比人类团队发现漏洞的速度更快。上个月,人工智能辅助发现的关键PHP漏洞迫使网站运营商进行紧急修补;该软件在网络中占据了很大一部分。
如此庞大的数量成为另一个问题。VulnCheck的数据表明,截至11月13日,今年记录的软件漏洞超过10万个,是2025年总数的两倍还多。工程师仍需评估和部署修复,而又不破坏他们旨在保护的系统。
这种加速有利有弊。防御者获得了寻找弱点的强大工具,但仓促的修补可能会干扰关键系统,而恶意用户可能会更快地获取攻击规划。
哈桑表示,她将在明年1月担任参议院国土安全与政府事务委员会主席时,将人工智能安全立法作为早期优先事项。她计划举行听证会,审查公共安全和关键基础设施的风险;而GAO本身并未提出正式的政策建议。
免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到[email protected],本平台相关工作人员将会进行核查。