比特币的白皮书一共 9 页，定义了未来的钱，超主权货币 Yuki 视频里讲的这篇《Attention Is All You Need》，15 页，定义了整个 AI 产业的发展 1/ 以前的电脑读句子像玩传话游戏，现在像开圆桌会议 传话是一个接一个往下传，传到最后一个，开头早忘了；现在是把整句话摊在桌上，每个字同时听完所有人说话 2/ 意思可以像坐标一样做加减法 “小猫”减“猫”加“狗”，差不多就是“小狗”。从猫走到小猫的方向，和从狗走到小狗的方向几乎一样，说明电脑真的把意思变成了位置 3/ 语法不是人教的，是它自己看出来的 翻译“动物没过马路，因为它太累了”，把它的注意力画出来，it 指向的是“动物”，不是“马路”。没人告诉它这个规则 4/ 一个字的意思，看它旁边站着谁 “苹果”在水果摊是水果，在发布会现场是一家公司。字没变，旁边变了，意思就变了 5/ 每个字会自己挑，该多听谁的 “小猫没吃鱼，因为它不饿”，看到“它”，句子会回头找，发现“小猫”最对得上，就把小猫的信息拿过来 6/ 第一个字和第一百个字，可以直接对上话 中间不用经过九十八个人传话，一步就够。所以句子再长，它也不会读到后面忘了前面 7/ 能同时算，才是它真正厉害的地方 不是排一队一个一个来，是所有字一起算，显卡几千个核心全开工。所以它才能不断加人、不断变大 8/ 加人真的有用，这条规律被验证了九年 模型大十倍、数据多十倍，能力就上一个台阶。所以公司敢一直买卡、一直建机房 9/ 八个角度一起看，是它自己分的工 一个盯语法，一个盯谁指代谁，一个盯动作是谁做的。分工没人规定，是训练的时候自己长出来的 10/ 一次看全文，所以它分不清先后 “狗咬人”和“人咬狗”在它眼里曾经一模一样，所以要给每个字编号，它才知道谁先谁后 11/ 记性是有价格的 句子长一倍，计算量涨四倍。你给它的资料越长，烧的钱越多，所以 AI 的记性一直很贵 12/ 它不查资料，它是在接话 就像你说半句，它猜你下一句。所以它会一本正经地编，因为它从不查，只负责接 13/ 训练时故意不让它太自信 逼它对答案留一点余地，结果反而更准。太笃定的模型，错得也更离谱 14/ 每一层只改一点，不推倒重来 新的等于旧的加上这一层的修改，所以它能堆几十层、几百层而不乱