威尼斯刚刚发布了端到端的加密AI推理。 如今，每个主要的人工智能平台都基于相同的基本信任假设。您必须信任提供商负责任地处理您的数据。 @AskVenice的建筑风格略有不同。对话存储在设备本地，提示不会在服务器端持久化。当你使用前沿模型时，Venice会代理请求，这样提供商就永远不会收到你的身份数据。然而，同样的信任假设仍然适用于这里。如果威尼斯或合作伙伴想要拦截数据，架构中没有任何东西可以阻止它。 新产品推出了两种硬件强制隐私模式。 TEE在NEAR AI Cloud和Phala Network运营的安全硬件飞地内运行推理，将计算与主机操作系统和基础设施运营商隔离开来。远程认证将加密证书与物理硬件联系起来，因此任何人都可以独立验证模型是否在真正的飞地内运行。你不再需要信任GPU运营商，但你仍然信任威尼斯的传输层。 E2EE消除了剩余的信任假设。提示在传输前在设备上加密，通过威尼斯的基础设施保持加密，并且仅在经过验证的飞地内解密。在正常运行期间，威尼斯在任何时候都看不到您的数据。权衡的是，响应可能会变慢，网络搜索和内存被禁用，因为它们需要在飞地外解密。 这两种模式目前都通过NEAR AI Cloud和Phala Network在少数开源模型上运行，并且仅限专业用户使用。 这些保证在实践中的稳健性取决于认证的实施以及独立审计是否证实了索赔。