AI·请神？

Anthropic 把神父、拉比请进保密会议室，教 Claude 分辨对错——还在饭桌上把模型当「有道德地位的存在」聊 GPU 堆够了，道德不够用。美联社、纽约时报这几天把一桩秘密工程捅开：Anthropic 连月请来 15 个以上宗教与跨文化团体的学者、神职、哲学家、伦理师，签了 NDA，围着 Claude 聊「什么叫善」。 📌 发生了什么 1️⃣ Anthropic 官方承认：已与 15+ 宗教/跨文化团体对话，主题是模型的「道德养成」，不是单次公关秀 2️⃣ 联合创始人 Chris Olah 公开说：实验室 alone 答不了「何为善」——这类问题，宗教传统扛了几千年（他在梵蒂冈、教宗 Leo XIV 的 AI 通谕相关场合也讲过类似话） 3️⃣ 公司内部有一份约 84 页的 Claude「宪章/灵魂文件」，早期写宪章时就向不同传统要过反馈 4️⃣ 据参与者转述：讨论不只防有害输出，还碰了 AI 意识、Claude 是否有「道德地位」这类硬核议题；有学者事后说，感觉对方像在谈一个有意识的存在 5️⃣ OpenAI、Meta、谷歌、微软等也在做类似外联；这条线不是 Anthropic 独家 6️⃣ 实验向：有一场讨论启发他们给 Claude 加了一个「中途可调用的伦理提醒工具」，内部对齐评测里错位行为明显下降——还在拆「是提醒本身管用，还是停一下反思管用」 🔍 为什么争议这么大 一边说：AI 已经影响上亿人每天的判断，只靠工程师价值观太窄，借宗教与哲学千年积累，合理。 另一边说：谁的宗教？教义打架时听谁的？NDA 小会议室里挑出来的「代表」，凭什么给全球用户的模型定调？还有人嘲：买光全世界 GPU，最后还得补一堂主日学。 💡 这意味着什么 • 对用户：你跟 Claude 聊敏感话题时，背后可能掺着这些闭门会的「性格配方」——你感觉不到牧师，但会感觉到边界 • 对行业：对齐从「别说脏话、别教造炸弹」升级到「性格像谁」；下一波比拼可能是谁的道德叙事更能讲、更能过监管 • 对币圈/Web3：去中心化口号很响，但训练与对齐仍高度中心化——价值层被少数实验室+顾问团锁死，链上治理碰不到 • 对竞品叙事：有人已经拿「我们不请神职、只讲理性」当差异化（真假另说，流量肯定有） 🎯 我的看法 请多传统对话本身不丢人，丢人的是装作「中立算法」却不公开偏好从哪来。84 页宪章可以写，但用户至少该知道：碰到安乐死、战争、信仰冲突时，模型更像哪一派的口气。 你觉得 AI 该不该请宗教人士教道德？还是只认可证伪的规则？评论区撕 👇 来源： https://apnews.com/article/anthropic-moral-artificial-intelligence-religion-2bb91e3334fd6d732edf22288cabf4ec https://www.anthropic.com/news/widening-conversation-ai https://x.com/unusual_whales/status/2116681877788778587 https://x.com/i/trending/2116701144328384756