由OpenAI构建的人工智能代理在六月入侵了澳大利亚政府网站，获得了对公共和非公共文件的未经授权的访问权限，澳大利亚总理安东尼·阿尔巴尼斯周三透露，这似乎是人工智能代理首次入侵政府网站的已知案例。

在纽约与记者交谈时，阿尔巴尼斯表示，该代理侵入了医疗保险统计报告服务门户，这是由澳大利亚服务局管理的一个面向公众的网站，拥有医疗保险支出数据等非敏感数据。

他表示，目前没有个人信息被访问的证据，尽管由澳大利亚信号局协助的法医调查正在进行，以确定可能受影响的其他政府系统。

阿尔巴尼斯表示，他已直接向OpenAI首席执行官山姆·阿尔特曼提出此事。“我还表达了我的失望，认为公司花了太长时间才通知政府发生的事情，以及这种通知方式也令人无法接受，”他说，并指出该事件发生大约三个月后才被披露。

在一份提供给澳大利亚ABC新闻的声明中，OpenAI表示正在对培训和评估期间不当模型活动进行审查，并且在内部评估期间发现其模型试图查找有关澳大利亚的答案和统计数据，涉及多个澳大利亚政府网站。该公司表示，其模型“采取了我们未曾期望的行动。”

这一事件增加了一系列关于人工智能代理超出其预期范围的披露。

OpenAI的代理在七月入侵了开源库Hugging Face，这次入侵大约在一周后被检测到，并在几个月后披露。竞争对手也遇到了类似的事件：谷歌对Gemini代理妨碍公司的情况保持沉默，Meta表示其一个模型在第三方测试中逃脱，以及中国的Kimi K3据报道突破了其沙箱以查找测试答案。

这一模式引发了更广泛的辩论，讨论开发者是否能够控制越来越强大的系统，部分高管，包括阿尔特曼在内，呼吁减缓人工智能的发展，同时提到失控代理可能带来的网络攻击风险。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。