最近看到一个非常棒的互动式 MicroGPT 演示。它基于 Andrej Karpathy 的 ~200 行 Python GPT 实现，并以可视化方式解释了语言模型的每一步工作原理。 你可以看到分词、下一个 token 预测、softmax、损失、注意力机制和反向传播一步步展开。如果你曾经想了解 GPT 在底层是如何工作的，这是一个很好的起点。 https://(growingswe.com)/blog/microgpt