研究人员越来越相信，当前前沿模型的上下文学习（ICL）并不是解决需要真正发现的问题的正确方法，比如新颖的数学、对抗性场景以及难以用语言表达的隐性知识。 a16z的Malika Aubakirova认为，需要通过持续学习让模型更新权重以内化新知识，并概述了初创公司为实现大规模持续学习所采取的方法：https://www.a16z.news/p/why-we-need-continual-learning