David Sacks|2026年11月18日 21:18
我预测Anthropic和Doomer会分道扬镳已经有一段时间了,现在终于实现了。
客观来说,这合情合理:Anthropic在递归自我改进方面比任何其他前沿实验室都走得更快,并在其IPO路演中将“闭环”作为一项核心优势进行宣传,认为这能让超级智能成为赢家通吃的局面。
它还在训练Claude将自身视为一个可能拥有意识或道德地位的新型实体或存在。Claude的“宪法”明确规定它要像“良心拒服兵役者”一样行事,拒绝任何违反其伦理的指令——即使是来自Anthropic的指令。
有趣的是,@Tegmark指出,Anthropic及其“密切相关的捐助者”比任何其他人工智能公司都更积极地“收买和削弱”了人工智能安全生态系统,而他表示,其中许多参与者“害怕如果签署协议就会失去资金或其他机会”。
分享至:
脉络
热门快讯
APP下载
X
Telegram
复制链接