Lao Bai
Lao Bai|2026年10月16日 04:46
正好借着今天老马震撼的飞车,把前两天埋的坑填了,关于Jev,Strata,Atlas这三个近期AI圈我觉得好玩的东西 我用一个电影场景把三个东西串起来一起说,不讲技术细节,感兴趣的老铁自己问AI或者Research 这个场景是啥呢 - 终结者! 想象T-800被送回到1984,任务是找到并干掉莎拉·康纳! 这时候他需要具备以下三个基本功能:看懂空间,瞬间判断,不联网思考(1984可没有天网让你联) 巧了,这仨正好对应Atlas,Jev,Strata 1. 先说李飞飞教授的Atlas - 看懂空间 施瓦辛格(T800)走进一间屋子,扫一眼就知道门后,桌子底下大概是什么 Atlas目前做的就是这件事:给几张照片,预测换个位置看过去是什么样 LLM预测下一个词 视频模型(比如Seedance)沿时间轴往下生成画面 Atlas预测的是新视角 现在很多视频模型都把自己叫世界模型,李飞飞几个月前给他们分了个类,渲染器,模拟器,规划器 模拟器可以变成渲染器,而规划器必须基于一个强大的模拟器 T800扫一眼知道房子里大概有什么, 这是模拟器。算出跳下去会怎样、射击子弹会打到哪也算模拟器,选择追、躲还是开车撞这些动作大概率需要的是规划器,渲染器则基本用不到 Atlas的目标应该就是要做最强模拟器,未来再升级到规划器 路线图长这样- 静态 3D 空间(当前) → 动态(4D) → 可编辑 → 可交互 → 模拟器即规划器(终局) 万里长征刚开始第一步,但是你要实现终结者还真离不了这个,单纯LLM不够 2. 然后是Jev - 瞬间判断 还记得那个画面么,T-800在汽车旅馆被管理员敲门,它视野里直接弹出一排候选回复,选一个就回出去,根本不组织语言。(我记得选了最粗鲁那句……) 这就是Jev:不需要LLM吐出来一段文字,也不需要COT思维链思考,只在给定选项里选,并给出有多确定。 TypeSafe的Jev就是这样:不生成文字,只在给定选项里选,并给出校准过的概率。 某个回复 0.97 → 直接回出去 最高的只有 0.60 → 先别回,交给更慢但更聪明的大模型想想 TypeSafe的演示视频里是判断一个发票是否是假的,传统LLM需要8秒,而Jev只用了0.1秒 快,是因为只做选择题,不生成文字;准,靠的是黑科技RLCD - Reinforcement Learning for Calibrated Decisions - 面向校准决策的强化学习 架构目前还没公开,我感觉大概率还是Transformer底座,只是把生成这个场景直接砍掉了,可以看作是LLM在特定语境下的ASIC - 不会聊天,不会写代码,只做高频决策,把传统LLM判断的各种步骤压缩简化成一个判断题或者说选择题,速度和成本都是一到两个数量级的差距 有点像丹尼尔卡尼曼那本著名的《思考快与慢》里面的系统一,传统LLM算系统二 感觉在生成之外又打开一条新的AI之路 - 决策/判断 反正T-800如果按照现在LLM这个判断速度肯定是完不成电影里的任何任务的,会跟蜗牛一样(怎么忽然让我想到了疯狂动物城里的闪电……),这时候Jev应运而生,终结者功能第二块拼图拼好 3. 最后一块拼图 - Strata - 本地运行大模型 1984年是有互联网了,但第一慢到炸裂,第二当时只在军方和学校里有,再说云端也没有天网让你联啊!你还是得在T-800脑子里装一个本地模型穿越回来才行 Strata让一台12GB 显存+64G内存的消费级显卡可以跑 1250亿参数的Qwen3.8-Flash-Next 模型 黑科技是先量化把参数从16位压缩到 2–3 位,体积缩小好几倍,然后常用的20%专家(的副本)扔显存,全部专家扔64G内存,最后还有30G的一个大查找表(训练时的速查手册)扔SSD 完全离线,数据隐私,当然能力因为压缩打了折扣,读长文档也慢,但是高端游戏主机能跑千亿大模型了啊,这是从无到有的问题 T-800里面的显卡内存CPU具体参数咱不知道,反正Strata就是能让你在有限的硬件环境里,跑更大参数的,基于MOE的大模型(目前只支持Qwen这一个模型,但思路对MoE模型通用) 这么一看,我们似乎离天网和终结者时代,越来越近了! @drfeifei @theworldlabs @typesafeai P.S - 哪位富哥订了Roadster,2028年带我体验一把吧,求求了
分享至:

热门快讯

APP下载

X

Telegram

Facebook

Reddit

复制链接

热门阅读