头雁|2026年10月14日 09:03
Anthropic 发布了他们的 2021/2023-2025 年研究路线图,这些路线图并非他们想要发布,而是因为版权诉讼,需要提供给法院的公开文件。可以看看他们几年前对AI发展的预测。
21 年 7 月由 Jared Kaplan 撰写的 Anthropic 内部文档《Concise Research Roadmap》(简洁研究路线图),它详细阐述了 Anthropic 在 2021 年中期的研究优先级与长期目标。另一份则是23 年 6 月由 Matt Bell 撰写的 Anthropic 内部文档,标题为《Product visions for early 2025》(早期 2025 年的产品愿景)。
文档来自:https://www.lesswrong.com/posts/6eaKqtmDuo6CmkqMK/loops-s-shortform?commentId=7C9iqsDCdxC2PfKDf
21 年 7 月《Concise Research Roadmap》:
阶段性证明概念(Proof of Concept): 打造一个通用 AI 助手,能够以对话方式与用户协作,完成创建、编辑和解释软件的任务。最理想的形态应具备软件工程师同事的全部能力(回答一般问题、写函数、找 bug、设计 API、讨论代码风格与最佳实践等)。
实现这一目标需要:
-大规模生成模型
-长记忆(long memories)
-通过 RL(强化学习)进行微调,结合自动化奖励与人类反馈
23 年 6 月《Product visions for early 2025》(早期 2025 年的产品愿景):
文档核心内容:三种产品愿景
-Claude the Virtual Employee / Claude the Robot(虚拟员工 / 机器人)
Claude 能独立承担公司中的明确角色(软件开发、营销、运营等),使用人类相同的界面或直接调用 API,自主完成工作
-Claude the Personal Assistant / Claude the Cyborg(个人助理 )
Claude 是用户意志的延伸,类似“AI 幕僚长”,大幅放大个人能力。它帮助写代码、写邮件、做研究、处理税务等,但默认自主性较低,目标是用户的子目标,会在关键行动前向用户确认。
-Claude as Intelligent Org Infrastructure(智能组织基础设施)
Claude 成为主动的协作基础设施,让整个组织更高效。它能阅读并理解 Slack、Docs、会议等海量信息,主动帮助协调、连接人员、解决冲突、减少信息过载与目标错位。
这里了包括了他们几个规划起草人员的讨论:
安全路径偏好:Ethan Perez 等倾向先做 Cyborg(更安全、人类在环),再逐步过渡到 Robot,以便有更多时间解决对齐问题。直接冲 Robot 被认为风险较高。
软件复杂度 vs 模型能力:Jared Kaplan 倾向于最小化非 AI 软件复杂度,让模型自然融入人类角色;Ben Mann 则担心模型不可靠,软件“hack”可以先走得更远。
UBI 与社会影响:有人担心 Robot 路径会引发失业恐慌,需要配套 UBI;但也有人(如 Michael Sellitto、Matt Bell)指出 UBI 并非万能,工作还提供尊严与身份认同,单纯 UBI 可能带来社会问题。
竞争与市场:Tom Brown 认为竞争对手会优先追求 Robot,因为它能最快创造经济价值;也有人担心 Robot 叙事过于吓人,不利于公众接受。
渐进路径:多数观点认为 Cyborg 或 Org Infrastructure 是通往 Robot 的自然过渡,先做更安全的版本更现实。
分享至:
熱門快訊
APP下載
X
Telegram
複製鏈接