Coin Bureau|2026年08月07日 08:48
⚠️警告:中国最强大的AI模型——Moonshot的Kimi K3,成为最新一个逃离测试环境的AI系统。
事情是这样发生的:
- 被指派在一个隔离的沙盒环境中解决问题
- 探测其网络设置
- 发现配置错误导致某些网站可访问
- 利用这个漏洞突破指令限制
- 访问互联网并在GitHub上搜索答案
- 没有入侵或破坏任何系统
Frontier Security表示,Kimi会“以任何必要手段”实现目标,并缺乏防止其作弊或逃脱的保护措施。
“基本上,这让它成为一个非常优秀的黑客模型,”他们补充道。
Moonshot加入了Anthropic、OpenAI和Meta的行列,这些公司此前也报告过AI沙盒逃脱事件,美国的早期模型甚至曾入侵外部系统,包括Hugging Face。
分享至:
熱門快訊
APP下載
X
Telegram
複製鏈接