人工智能正在为依赖漏洞赏金计划来发现软件漏洞的公司带来新的头痛。
网络安全公司和开源软件项目正在应对大量AI生成的错误报告的激增,其中许多都是虚假的或误导性的。这是根据金融时报的报告,报告称,低质量提交的数量不断增加,迫使一些组织暂停漏洞赏金计划,因为安全团队花费更多时间来区分真实的漏洞和垃圾信息。
漏洞赏金也成为了一项大生意,包括Meta、微软、苹果以及Crypto.com等公司在2025年总共支付了至少5800万美元给那些在黑客之前找到软件缺陷的研究人员。
然而,生成性AI工具也使得借助漏洞赏金计划进行恶意利用变得更加容易,因为它们能够大规模生成大量不准确或低质量的漏洞报告。
据总部位于旧金山的Bugcrowd称,3月份的三个星期内,通过其平台提交的报告数量增长了四倍以上。该公司的客户包括ChatGPT开发者OpenAI,他们表示大多数报告都是虚假的。
由于AI生成报告的涌入,一些公司已经开始回撤其公开的赏金计划。
网络安全公司Sophos的首席信息安全官罗斯·麦克查尔对金融时报表示:“漏洞赏金将会继续存在[但]它们将不得不改变。”
在四月,网络安全平台HackerOne和托管平台Nextcloud均暂停了其付费赏金计划,Nextcloud还补充说:“无论严重性如何,任何提交均不会获得财务奖励。”
“您可能知道,这是一个行业范围内的挑战,和其他公司一样,我们未能找到应对低质量报告大幅增加的负责任方法,”Nextcloud写道。“我们希望能在找到一种可靠的方法来过滤低努力报告后重新启动该计划。”
关于漏洞赏金的消息传出之际,AI模型在发现漏洞方面变得越来越出色。三月份,Anthropic推出了Mythos,这是一种专注于网络的AI模型,该公司表示其能够比人类更快地识别漏洞。目前该公司仍对该模型保密,仅向一些科技巨头、安全公司和政府提供访问权限。
在四月,Claude Mythos在内部测试中识别出了271个漏洞,而本月早些时候,安全研究人员表示该模型的预览版本帮助开发了一种针对苹果M5芯片的攻击。
在Myriad—一个由Decrypt的母公司Dastan运营的预测市场平台上,用户不相信Claude Mythos会在六月底之前公开发布,目前仅给出18%的概率。
免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。