AGI 是指模型达到饱和状态，直到在所有方面都达到专家级的人类水平。按照人类标准来看，它是通用智能。 它是数据生产和训练机制的理想状态，但受限于人类数据和偏好。 我们接近 AGI 的方式不是将其视为一个门槛，而是一个极限。 超级智能，或 ASI，是另一回事。通用智能只是入场券。ASI 能从自身经验中学习，并具有潜在的无限能力。 目前还没有人发现能够满足所有 ASI 条件的学习者。当前的强化学习（RL）无法正确地将奖励分配给单个 token，因此奖励被分散到大量的 rollout 中——这并不完全是单一智能体从经验中学习的方式。 我确实相信这是可能的，就像目前被攻克的数学猜想一样，这可能只是时间和算力的问题。