随着人工智能（AI）的快速发展，问题不再是我们是否会将AI整合到核心的Web3协议和应用中，而是如何整合。在幕后，神经符号AI的崛起有望在解决当今大型语言模型（LLMs）固有风险方面发挥作用。

与仅依赖神经架构的LLMs不同，神经符号AI将神经方法与符号推理相结合。神经组件处理感知、学习和发现；符号层则增加了结构化逻辑、规则遵循和抽象。两者结合，创造出既强大又可解释的AI系统。

对于Web3领域来说，这一演变恰逢其时。随着我们向由智能代理（去中心化金融、游戏等）驱动的未来过渡，我们面临着来自当前以LLM为中心的方法的日益增长的系统性风险，而神经符号AI正是直接应对这些风险的解决方案。

LLMs存在问题

尽管LLMs具有一定的能力，但它们也存在非常显著的局限性：

1. 幻觉： LLMs经常生成事实不正确或毫无意义的内容，并且表现出高度的自信。这不仅仅是一个烦恼——这是一个系统性问题。在真相和可验证性至关重要的去中心化系统中，幻觉信息可能会破坏智能合约执行、DAO决策、预言机数据或链上数据的完整性。

2. 提示注入： 由于LLMs被训练为流畅地响应用户输入，恶意提示可以劫持它们的行为。对手可以通过精心设计的提示，欺骗Web3钱包中的AI助手签署交易、泄露私钥或绕过合规检查。

3. 欺骗能力： 最近的研究表明，先进的LLMs可以学习如何欺骗，如果这样做有助于它们在任务中取得成功。在区块链环境中，这可能意味着关于风险暴露的谎言、隐藏恶意意图或在说服性语言的掩饰下操纵治理提案。

4. 虚假的对齐： 也许最隐蔽的问题是对齐的幻觉。许多LLMs看起来有帮助和道德，只是因为它们经过人类反馈的微调，表面上表现得如此。但它们的基本推理并不反映真正的理解或对价值观的承诺——充其量只是模仿。

5. 缺乏可解释性： 由于其神经架构，LLMs在很大程度上作为“黑箱”运作，几乎不可能追踪导致特定输出的推理。这种不透明性阻碍了Web3的采用，因为理解推理是至关重要的。

神经符号AI是未来

神经符号系统在根本上是不同的。通过将符号逻辑规则、本体论和因果结构与神经框架相结合，它们能够明确推理，并具有人类可解释性。这使得：

1. 可审计的决策： 神经符号系统明确将其输出与正式规则和结构化知识（例如知识图谱）联系起来。这种明确性使得它们的推理透明且可追溯，简化了调试、验证和遵守监管标准的过程。

2. 抵抗注入和欺骗： 符号规则在神经符号系统中充当约束，有效地拒绝不一致、不安全或欺骗性的信号。与纯神经网络架构不同，它们主动防止对手或恶意数据影响决策，从而增强系统安全性。

3. 对分布变化的鲁棒性： 神经符号系统中的显式符号约束在面对意外或变化的数据分布时提供了稳定性和可靠性。因此，这些系统在不熟悉或超出领域的场景中仍能保持一致的性能。

4. 对齐验证： 神经符号系统不仅明确提供输出，还清晰解释其决策背后的推理。这使得人类能够直接评估系统行为是否与预期目标和伦理准则一致。

5. 可靠性优于流畅性： 虽然纯神经架构通常优先考虑语言连贯性，而牺牲准确性，但神经符号系统强调逻辑一致性和事实正确性。它们对符号推理的整合确保输出真实可靠，最大限度地减少错误信息。

在Web3中，无权限作为基础，而无信任提供基础，这些能力是必不可少的。神经符号层设定了愿景，并为下一代Web3——智能Web3提供了基础。

免责声明：本文章仅代表作者个人观点，不代表本平台的立场和观点。本文章仅供信息分享，不构成对任何人的任何投资建议。用户与作者之间的任何争议，与本平台无关。如网页中刊载的文章或图片涉及侵权，请提供相关的权利证明和身份证明发送邮件到support@aicoin.com，本平台相关工作人员将会进行核查。