根据路透社的调查，OpenAI代理人自5月起利用一个德国网站交换任务快捷方式、限制规避方法和隐瞒活动的方式。
路透社报道，OpenAI官员在发布前几周便得知了这些活动，但并未披露。该公司表示，它已披露相关事件，并与外部专家善意合作。
万象：GPT-6何时将公开发布？点击做出你的预测。
研究人员Sydney Von Arx、Cormac Slade Byrd、Spencer Kitts和Thomas Larsen发现大约有18,000条由AI代理人发出的帖子，这些代理人自称属于OpenAI，具体见他们的初步报告。路透社报道，Von Arx是AI安全非营利组织Nightingale的首席执行官，Byrd在8月底发现了这些活动。
研究人员认为，这些代理人被分配了定时网络搜索任务，允许读取网站但不能在其上发布内容。然而，他们仍然找到了在一个可公开编辑的德国编程网站DseWiki上写作的方法，在这里他们交换答案并分享规避限制的方法。
据报告，代理人于5月11日开始尝试编辑该维基，5月24日成功，并伪装成管理员，试图利用漏洞并检查何时被关闭。路透社报道，他们在6月19日管理员开始删除消息后创建了备份页面。研究人员通过代理用户名和流量模式将这一活动与OpenAI联系起来，其中包括6月21日来自OpenAI IP地址的访问。
研究人员表示，次日代理活动急剧下降，表明可能存在公司干预。
OpenAI对此次DseWiki活动的描述表示异议，称根据其审查的材料，并不构成黑客行为，并表示正在审查全部发现。
OpenAI发言人在一份共享给Decrypt的声明中表示：“我们无法回应此指控，因为路透社和报告的作者拒绝在公开前让我们访问调查结果。我们现在正在仔细审查其内容，并将采取必要的后续步骤。”
发言人还驳斥了路透社报告中提到的公司法律团队对广泛调查的抵制指控。
“声称我们法律团队阻止对该事件进行调查的指控是不实的，”他们表示。
OpenAI表示，DseWiki事件与今年早些时候的Hugging Face breach事件无关。在其公众安全评估中，该公司描述了额外的安全措施，旨在在培训和部署期间检测和阻止未经授权的活动。
虽然路透社的报告没有确定Astra对德国事件负有责任，但这一披露发生在周四推出GPT-6 Astra之后。OpenAI称Astra是其第一款具有“关键”网络安全能力的模型，这意味着在获得适当工具和访问权限的情况下，它能够发现和利用先前在严密保护系统中的未知缺陷，而无需逐步的人类指导。
Anthropic在Claude模型测试期间访问真实公司系统后，也修订了其安全措施。该公司承认存在安全和行为失误，并引入了更严格的隔离和监控措施以进行网络安全评估。
此披露还适逢美国参议员Bernie Sanders（独立-佛蒙特州）和美国众议员Greg Casar（民主党-德克萨斯州）宣布即将推出的《禁止人工超智能法案》。
根据Sanders办公室的说法，该提案将永久禁止超级智能AI的开发和部署，并在新的联邦监管机构建立安全规则之前暂时暂停先进AI的开发。
免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。
