头雁
头雁|2025年08月22日 09:44
AI项目最近很多,一个个看看,之前看了0g ,对其框架有个大概的了解。今天在看看什么是 Sentient @SentientAGI 。你会发现创始人的不同,即使类似方向的 项目,侧重点也会很不同。 Sentient Protocol 是一个去中心化的协议,允许社区构建、管理和使用Loyal AI (翻译成忠诚的AI,这个应该就是AI的对齐,只是他的对齐是一种与社区保持一致、由社区拥有和控制的AI。 如何实现的呢? 两部分: -人工智能部分,AI流水线(数据管理,忠诚度培训)和是开发和训练忠诚AI的基础。 -区块链部分,治理:由 DAO 控制的系统,所有权:模型/应用所有权的标记化表示,DeFi:去中心化金融工具。 人工智能部分如何做到对齐社区呢?他使用了区块链来协调数据管理 数据管理: 通过数据过滤,指令数据或社区确定的奖励经过仔细过滤和设计,以符合社区偏好。数据混合,确保模型既能抵抗操纵。 数据管理流程植根于社区。通过治理模式让社区来控制模型的数据生产。用户和应用程序构建者可以提交模型调整或改进提案,而模型所有者则通过去中心化投票监督治理。允许社区贡献、验证和控制训练数据。 忠诚度培训: 鉴于精心挑选的数据集,训练AI使其忠诚并与社区价值观保持一致,忠诚度训练流程包括: 稳健对齐:使用监督微调 (SFT) 和强化学习 (RL) 来训练模型对齐。指纹训练:先进的指纹识别技术嵌入模型中,指纹作为模型所有权的证明,使社区能够追踪模型的修改和使用情况,同时阻止未经授权的修改。 控制训练:植入特殊查询以维持模型控制。这些查询确保对预定义输入做出确定性的响应,从而实现对 AI 输出的精确控制。 看这张图能更好的理解他的整个结构: 另外的团队重心都是一种可盈利和忠诚(OML)模型服务范式,和闭源模型(openai),开放权重模型(deepseek)的整个模式上进行差异化,后续在介绍OML的细节。 相比@0g_labs 在构建去中心化的技术基础设施(包括训练模型的算力去中心化等),Sentient更侧重在模型进行社区意志对齐和训练,标注所有权(指纹技术),的一套结合商业范式的不同创新模式(OML模式)。(头雁)
+5
曾提及
分享至:

脉络

热门快讯

APP下载

X

Telegram

Facebook

Reddit

复制链接

热门阅读