评论人士嘲笑Anthropic的说法,认为中国人工智能实验室正在盗取其数据。

CN
Decrypt
關注
16 小時前

Anthropic指责三家中国人工智能实验室从其Claude聊天机器人中提取数百万条响应,以训练竞争系统,该公司声称这一举动违反了其服务条款,并削弱了美国的出口管制。


在周一发布的博客文章中,Anthropic表示它发现了AI开发者DeepSeek、Moonshot和MiniMax通过模型蒸馏提取Claude的能力的“工业规模活动”。该公司声称这些实验室使用大约24,000个虚假账户生成了超过1600万条交流。


Anthropic的声明在X上引发了质疑和讥讽,批评人士质疑其立场,考虑到包括Claude在内的主要AI模型是如何训练的,反映了关于知识产权、版权和合理使用的更广泛讨论。



“你在开放互联网中进行训练,当其他人从你那里学习就称之为‘蒸馏攻击’,”AI基础设施公司IO.Net的共同创始人Tory Green写道。“那些喜欢宣扬‘开放研究’的实验室,对开放获取突然大哭。”



“哦不,我的私人知识产权,居然有人用它来训练一个AI模型,只有Anthropic有权使用其他人的知识产权,不,这种事不能发生!”另一位X用户写道


蒸馏是一种AI训练方法,其中一个较小的模型从一个较大的模型的输出中学习。


在网络安全上下文中,它还可以描述模型提取攻击,攻击者利用合法访问权限系统地查询一个系统,并使用其响应来训练竞争模型。


“这些活动的强度和复杂性正在增加,”Anthropic周一写道。“采取行动的窗口很窄,威胁超出了任何单一公司或地区。解决这个问题需要行业参与者、政策制定者和全球AI社区之间的快速、协调行动。”


“蒸馏可以是合法的:人工智能实验室使用它为他们的客户创建更小、更便宜的模型,”Anthropic在另一条X帖子中写道。“但是,非法蒸馏美国模型的外国实验室可以移除保护措施,将模型能力引入他们自己的军事、情报和监视系统。”


在6月,Reddit起诉Anthropic,指控其抓取超过100,000条帖子和评论,并利用这些数据来微调Claude。


该案件与针对OpenAIMetaGoogle的大规模未经许可抓取在线内容的诉讼相结合。


“[存在]一个试图将自己塑造成消费者心目中具有正义感和尊重界限及法律的公共面孔,以及一个忽视任何妨碍其进一步填补口袋的规则的私有面孔,”Reddit的诉讼称。


Anthropic表示,它正在扩大检测、收紧账户验证、与其他实验室和当局分享情报,并增加保护措施以限制未来的蒸馏尝试。


“但没有公司能单独解决此问题,”Anthropic写道。“正如我们上面所提到的,这种规模的蒸馏攻击需要AI行业、云提供商和政策制定者之间的协调响应。”


免责声明:本文章仅代表作者个人观点,不代表本平台的立场和观点。本文章仅供信息分享,不构成对任何人的任何投资建议。用户与作者之间的任何争议,与本平台无关。如网页中刊载的文章或图片涉及侵权,请提供相关的权利证明和身份证明发送邮件到support@aicoin.com,本平台相关工作人员将会进行核查。

分享至:
APP下載

X

Telegram

Facebook

Reddit

複製鏈接