开放AI将定制聊天机器人ChatGPT添加到五角大楼平台,专家警告风险。

CN
Decrypt
关注
3天前

开放AI在周一表示,它正在部署一款定制版的ChatGPT在GenAI.mil,该平台是由美国国防部开发的人工智能平台。


这项举措扩大了军方对强大生成AI模型的访问,尽管批评者警告说,用户错误仍然是一个主要的安全风险。


ChatGPT加入了越来越多的可用于美国军方的AI模型列表,包括谷歌的Gemini和Grok,这是xAI开发的AI系统,该系统在本月初被纳入SpaceX。





“我们相信负责捍卫国家的人员应该能够使用最好的工具,并且重要的是,美国和其他民主国家需要理解,在适当的保障措施下,人工智能如何帮助保护人们、威慑对手以及防止未来的冲突,”开放AI在一份声明中表示。


开放AI表示,GenAI.mil版的ChatGPT已获批准用于非分类国防部用途,并将在授权的政府云基础设施中运行。


根据开放AI的说法,该系统包括旨在保护敏感数据的保障措施。


尽管如此,公共公民组织的科技责任倡导者J.B. Branch警告说,用户对AI的过度依赖可能会破坏这些保护措施。


“研究表明,当人们使用这些大型语言模型时,他们倾向于给予它们以疑义的利益,”Branch对Decrypt说。“因此,在像军队这样高影响力的情况下,确保它们正确获取信息变得尤为重要。”


此次部署是在五角大楼加速在军事网络中采用商业AI之际,同时AI开发者也在寻求盈利。


在一月份,国防部长Pete Hegseth表示,该部门计划在非分类和分类的军事网络中部署领先的AI模型。


尽管开放AI表示,定制版的ChatGPT仅用于非分类数据,但Branch警告说,将任何敏感信息输入AI系统使其易受对手的攻击,并补充道,用户常常错误地将此类工具视为安全的金库。


“分类信息应只由特定的一群人查看,”他说。“因此,即使你有一个仅限于军方的切割系统,这也并不能改变分类数据仅限于有限的人员使用这一事实。”


开放AI未立即回应Decrypt的评论请求。


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下载

X

Telegram

Facebook

Reddit

复制链接