我如何看待“安全”： 目标是尽量减少用户意图与系统实际行为之间的分歧。 “用户体验”也可以这样定义。因此，“用户体验”和“安全性”不是单独的领域。然而，“安全”侧重于尾部风险情况（分歧的负面影响很大），特别是由对抗行为引起的尾部风险情况。 从上述定义中可以立即明显看出，“完美安全”是不可能的。不是因为机器是“有缺陷的”，甚至也不是因为设计机器的人是“有瑕疵的”，而是因为“用户的意图”从根本上来说是一个极其复杂的对象，用户自己不容易访问。 假设用户的意图是“我想向Bob发送1个ETH”。但“鲍勃”本身就是一个复杂的肉空间实体，很难在数学上定义。你可以用一些公钥或哈希“表示”Bob，但公钥或哈希实际上不是Bob的可能性成为威胁模型的一部分。存在有争议的硬分叉的可能性，因此哪个链代表“ETH”的问题是主观的。事实上，用户对这些主题有一个很好的了解，可以用“常识”这一总括术语来概括，但这些东西很难用数学来定义。 一旦你进入更复杂的用户目标——例如“保护用户隐私”的目标——它就会变得更加复杂。许多人直观地认为加密消息就足够了，但现实是，谁与谁交谈的元数据模式以及消息之间的时间模式等可能会泄露大量信息。什么是“微不足道”的隐私损失，而不是“灾难性”的损失？ 如果你熟悉早期尤德考斯基关于人工智能安全的想法，以及如何简单地明确目标是这个问题中最困难的部分之一，你就会认识到这也是一个问题。 那么，“好的安全解决方案”是什么样子的呢？ 这适用于： *以太坊钱包 *操作系统 *智能合约或客户端或任何计算机程序的正式验证 *硬件 * ... 基本的约束是：用户可以输入到系统中的任何内容从根本上来说都太低了，无法完全编码他们的意图。我认为，一个好的解决方案的共同特征是：用户以多种重叠的方式指定他们的意图，系统只有在这些规范相互一致时才会采取行动。 示例： *编程中的类型系统：程序员首先指定*程序做什么*（代码本身），然后还指定*每个数据结构在计算的每一步都有什么“形状”*。如果两者出现分歧，程序将无法编译。 *形式验证：程序员指定程序的功能（代码本身），然后还指定程序满足的数学属性 *交易模拟：用户首先指定他们想要采取的操作，然后在看到该操作的链上后果的模拟后单击“确定”或“取消” *事务中的后断言：事务指定了操作及其预期效果，两者都必须匹配才能使事务生效 *多重签名/社交恢复：用户指定多个代表其权限的密钥 *支出限制、新地址确认等：用户首先指定他们想要采取的行动，然后，如果该行动在某种意义上是“异常”或“高风险”的，用户必须重新指定“是的，我知道我正在做一些异常/高风险的事情” 在所有情况下，模式都是一样的：没有完美，只有通过冗余来降低风险。你希望不同的冗余规范从不同的“角度”“接近用户的意图”：例如，行动、预期后果、预期的重要性、下行的经济界限等 这种思维方式也暗示了使用LLM的正确方法。正确完成LLM本身就是对意图的模拟。通用法学硕士（除其他外）就像人类常识概念的“影子”。用户微调的LLM就像用户自己的“影子”，可以以更精细的方式识别正常与异常。 在任何情况下，LLM都不应被视为唯一的意图决定者。但它们是一个可以近似用户意图的“角度”。这是一个与传统的、明确的编码意图方式截然不同的角度，这种差异本身就最大限度地提高了冗余被证明有用的可能性。 另一个推论是，“安全性”并不意味着“让用户对所有内容进行更多点击”。相反，安全应该意味着：它应该很容易（如果不是自动化的话）做低风险的事情，而很难做危险的事情。实现这种平衡是一个挑战。