没有人能够提取前沿模型的权重，因为没有人能接触到它们。 Anthropic 收购了 Opaque，这是一家提供机密计算的公司，旨在构建端到端的私密 AI。从训练到推理，甚至连内部团队成员都无法访问这些权重。如果说 AI 是一个黑箱，那么这就是黑箱外的黑箱。 很多人对机密计算的使用场景存在误解，并尝试将其用于分布式网络、区块链等领域，但它有一个重大弱点：侧信道攻击。在分布式网络中，任何接触到硬件的人都可以攻击它并读取数据。 对于分布式网络（任何提供公共无许可机密 AI 的人），有一个大问题，那就是这些机器必须由白名单节点提供商操作，并通过类似“云证明（Proof of Cloud）”的认证签名，这意味着它们必须部署在主要数据中心。 随着前沿模型消耗越来越多的 GPU，机密计算变得更加有价值。仅仅少数几个前沿客户就可以分配数百万个这样的 GPU。 攻击硬件，比如 NVIDIA 集群，并不是一件容易隐藏的事情。这些机架的重量相当于一辆 Tesla Roadster，而每个重达 300 磅的 DGX B300 需要使用升降设备才能上架或下架。如果这些权重分布在多个机架上，比如 NVL72，你需要同时攻击所有机架。 这些系统正在被全面加固，以确保没有人，甚至连 Dario 自己，都无法获取权重。它们在机密环境中训练，通过安全方式交付到推理机器，并部署在机密硬件上，使得查看权重几乎不可能。 https://aiweekly.co/alerts/anthropic-acquires-opaque-systems-hires-its-ceo-and-cto