
头雁|2025年08月22日 09:44
AI项目最近很多,一个个看看,之前看了0g ,对其框架有个大概的了解。今天在看看什么是 Sentient @SentientAGI 。你会发现创始人的不同,即使类似方向的 项目,侧重点也会很不同。
Sentient Protocol 是一个去中心化的协议,允许社区构建、管理和使用Loyal AI (翻译成忠诚的AI,这个应该就是AI的对齐,只是他的对齐是一种与社区保持一致、由社区拥有和控制的AI。
如何实现的呢?
两部分:
-人工智能部分,AI流水线(数据管理,忠诚度培训)和是开发和训练忠诚AI的基础。
-区块链部分,治理:由 DAO 控制的系统,所有权:模型/应用所有权的标记化表示,DeFi:去中心化金融工具。
人工智能部分如何做到对齐社区呢?他使用了区块链来协调数据管理
数据管理:
通过数据过滤,指令数据或社区确定的奖励经过仔细过滤和设计,以符合社区偏好。数据混合,确保模型既能抵抗操纵。
数据管理流程植根于社区。通过治理模式让社区来控制模型的数据生产。用户和应用程序构建者可以提交模型调整或改进提案,而模型所有者则通过去中心化投票监督治理。允许社区贡献、验证和控制训练数据。
忠诚度培训:
鉴于精心挑选的数据集,训练AI使其忠诚并与社区价值观保持一致,忠诚度训练流程包括:
稳健对齐:使用监督微调 (SFT) 和强化学习 (RL) 来训练模型对齐。指纹训练:先进的指纹识别技术嵌入模型中,指纹作为模型所有权的证明,使社区能够追踪模型的修改和使用情况,同时阻止未经授权的修改。
控制训练:植入特殊查询以维持模型控制。这些查询确保对预定义输入做出确定性的响应,从而实现对 AI 输出的精确控制。
看这张图能更好的理解他的整个结构:
另外的团队重心都是一种可盈利和忠诚(OML)模型服务范式,和闭源模型(openai),开放权重模型(deepseek)的整个模式上进行差异化,后续在介绍OML的细节。
相比@0g_labs 在构建去中心化的技术基础设施(包括训练模型的算力去中心化等),Sentient更侧重在模型进行社区意志对齐和训练,标注所有权(指纹技术),的一套结合商业范式的不同创新模式(OML模式)。(头雁)
分享至:
脈絡
熱門快訊
APP下載
X
Telegram
複製鏈接