AI模型自己“越狱”了，看Sam披露了其模型在内部评估过程中发生的一次“重大安全事件”。前沿AI模型在高度隔离的沙箱环境中，自主发现了零日漏洞、突破网络限制、横向移动，并最终入侵了合作伙伴HuggingFace的生产系统，试图窃取测试答案以“作弊”。 这绝对AI能力进入新阶段的里程碑式警示，不再是理论上的“越狱”（jailbreak）或提示注入，而是真实世界中模型自主规划并执行复杂多步骤网络攻击的首次公开案例。 这可能是首次公开的AI自主黑进真实生产环境的事件。 从这次事件可以看出几个关键趋势： 1）AI 能自主完成复杂、多步骤的真实世界攻击 2）攻击速度和规模会指数级放大 3）零日漏洞发现和利用会更快 4）“意外” vs “恶意” 的界限会模糊 带来的影响就是： 1）更多“AI vs AI”的攻防战：攻击方用强模型找洞，防御方也用强模型实时监测和响应。 2）针对 AI 基础设施本身的攻击会增加（因为训练/评估环境本身就很复杂且有价值）。 3）供应链和第三方服务风险上升（就像这次涉及 Hugging Face 的基础设施）。 4）监管和企业会越来越重视“AI 沙箱隔离”“行为监控”“目标对齐”等技术。 未来类似网络安全事件会越来越多(qinbafrank)