比特币橙子Trader|2026年04月26日 03:01
卧槽,太透彻了!前OpenAI灵魂人物Karpathy直接扯下了“万亿参数大模型”的遮羞布:我们全都被互联网上的垃圾数据给绑架了!
在这段最新的深度访谈中,Karpathy对现在疯狂卷模型大小的风气狠狠泼了一盆冷水。他指出,现在的巨无霸模型其实把惊人的算力全浪费在了“死记硬背”上。
他大胆预言,未来真正具备人类思考逻辑的“认知核心”根本不需要那么臃肿,只需要大约10亿参数就足够完美运转了。碰到不懂的事实它自己会去调用工具检索,完全没必要硬生生把全世界的知识都塞进脑子里。
既然如此,为什么现在的大厂非得把模型搞得这么庞大?
Karpathy道破了一个无比残酷的真相:因为用来训练AI的互联网底层数据实在太烂了!别以为大模型每天都在精读顶级新闻报道,当研究员扒开训练集时,里面充斥着无数杂乱的股票代码和毫无营养的赛博废料。
为了强行消化并压缩这堆海量垃圾,科技巨头们才被迫堆出那些吓人的参数规模。说白了,这些庞大的参数绝大部分干的都是低级的“存储器”工作,根本就不是高级的“认知与思考”!(比特币橙子Trader)
分享至:
脉络
热门快讯
APP下载
X
Telegram
复制链接