一个单一的自主任务可能会消耗大约10万代币，而一个简单的提示可能只需要大约1千代币，其中大部分差距并不是新的推理过程。而是代理每一步都在重新阅读相同的上下文，因为它们之间没有任何持久性。 解决记忆问题后，在你考虑使用更大的GPU之前，这部分代币成本就会大幅减少。 这是我们在为生产代理构建持久记忆系统时一直在深入思考的问题。