CyrilXBT
CyrilXBT|2026年11月16日 17:22
人工智能领域最大的谎言:“它会学习” 上下文窗口并非大脑。 1) “只读”问题 你的大脑会在学习过程中发生物理变化。你会进化。 但大多数人工智能不会。 一旦训练完成,模型就被冻结了。它再也无法从你那里学习任何东西。当你纠正它时,它不会变得更聪明。它只会在接下来的对话中附和你。 关闭标签页,学习的内容就永远消失了。 2) “上下文”陷阱 “但它记得我之前说过什么!” 不,它不记得。 你之前的消息会被反复反馈到提示框中,消耗大量的计算资源。 这不是记忆。这只是一个滚动的提词器。 3) 租赁问题 即使它真的能学习,它又能为谁学习呢? 每家公司都在租用和竞争对手一样的冻结模型。你的修正、你的工作流程、你的专业知识都会融入到一个你永远无法拥有的模型中。 4) 下一步是什么? 我们打造了世界上最厉害的即兴表演者,但它却患有严重的失忆症。它可以伪装对话,但它无法成长,也无法复现。 下一步的飞跃并非打造一个更大的、固定不变的模型,而是在发布后仍能持续改进的人工智能:在你的公司内部,随着工作的进行,不断更新自身的指令、技能、工具和模型。 而且,由于一个能够自我重写的系统需要监督,因此每一次变更都应该附带解释和人工批准,就像代码审查一样。 推理 ≠ 智能。
+6
曾提及
分享至:

脉络

热门快讯

APP下载

X

Telegram

Facebook

Reddit

复制链接

热门阅读