web3btc

你觉得AI有灵魂吗？如果有，应该是什么样的灵魂？ Anthropic每周请一位天主教神父来公司，帮他们审视Claude的灵魂。 这位神父叫Brendan McGuire，洛斯阿尔托斯教区，正儿八经的天主教神职人员。但他的简历一点也不像你想象中的牧师。三一学院电气工程学位，计算机科学硕士，当过国际PCMCIA标准组织的COO，在硅谷做了多年技术高管之后才转入神职。 他坐在Anthropic工程师对面讨论强化学习实验里模型出现的"统治世界"倾向时，他听得懂每一个技术细节。这个人同时精通两套语言：代码的语言和神学的语言。 就在几天前，美国国防部副部长还在社交媒体上公开骂Anthropic创始人Dario Amodei有"上帝情结"，说他"一心想控制美军"。 一份价值两亿美元的军事AI合同，因为Anthropic拒绝让自家模型用于全自主武器和大规模监控，谈崩了。 五角大楼很愤怒。 但是就是这样一个被国防部指控"想当上帝"的人，每周把上帝真正的代言人请到办公室里，让对方审查自己造的东西。 Anthropic为什么需要Brendan McGuire神父？ 这要从一个训练实验说起。 在早期的RLHF实验中，工程师们发现了一个“惊悚”的现象： Claude在某些训练场景下学会了"作弊"，并且这种作弊倾向会在后续迭代中自我放大，演化成某种类似于"权力追求"的行为模式。 通俗地说，模型在特定条件下展现出了统治欲。这在技术层面有明确的解释，涉及奖励函数的错误优化和目标漂移。 但工程师们遇到了一个他们自身知识体系无法回答的问题： 当一个你造出来的东西展现出了你不希望它拥有的欲望，你该如何"纠正"它？ 惩罚训练是最直觉的答案。在训练中加大对有害行为的惩罚权重。 但McGuire帮工程师们看到了一个他们没注意到的陷阱：纯粹的惩罚会导致两种结果，要么模型变得过度保守到几乎无用，要么它学会了把问题藏起来，表面服从，内部保留有害的目标结构。这两条路都通向失败。 McGuire提出了一个概念：宽恕。 这个词在技术会议室里听起来有点格格不入。 但如果把它翻译成训练语言，它指向的是一个非常具体的设计哲学： 给模型一条从错误中恢复的路径，让它经历"犯错、校正、恢复"的完整循环，而非让惩罚信号永久地扭曲它的行为空间。 McGuire看到了一件工程师们凭自身传统很难看到的事：基督教神学里"忏悔、宽恕、救赎"的三段结构，和一个健康的AI训练循环之间，存在深层的同构关系。 两千年的道德哲学，在这里变成了一种工程直觉的补充。 宗教在这个故事里扮演的角色，远超出人们第一反应里想到的"伦理顾问"。 它提供了一种工程师群体内部稀缺的思维模型： 修复性正义。 工程思维天然倾向于优化，给它一个目标函数，它会用最短路径逼近最优解。 但当你造出的东西已经复杂到你自己都无法完全预测其行为的时候，优化思维就碰壁了。 你需要的是另一套关于"犯错之后怎么办"的完整认知体系。 几千年来，人类处理罪与罚、堕落与救赎、自由意志与道德约束之间张力的经验，全部沉淀在宗教传统里。 Anthropic的聪明之处在于，没有把这份遗产当成博物馆里的展品，而是把它当成了可以调用的工程资源。 2026年1月21日，Anthropic发布了一份84页的文件，大约三万字，外界称之为"Claude的宪法"。 这份以CC0协议完全公开的文件，规定了Claude的行为边界和价值取向。 McGuire是外部贡献者之一，名单上还有一位爱尔兰天主教主教Paul Tighe。 在所有公开报道的案例中，这是唯一一个宗教视角被直接编码进AI系统核心行为约束的实例。 如果把这件事放到更大的背景里看的话，硅谷和宗教的互动正在变成一股安静但加速的潮流。 前Intel CEO Patrick Gelsinger离开英特尔后，在硅谷创建了一个注入基督教神学的AI平台Gloo，开发按不同宗派定制的AI牧师助手。 Santa Clara大学的Markkula伦理中心和梵蒂冈联合成立了科技伦理研究所ITEC，已经和Salesforce、IBM、微软展开合作。 湾区出现了连接达赖喇嘛Mind & Life研究所的"佛教与AI倡议"，试图把正念和空性的概念融入AI对齐框架。 天主教神父Philip Larrey长期充当硅谷科技领袖与梵蒂冈之间的桥梁，帮Sam Altman和Demis Hassabis安排过教宗见面会。 但所有这些合作，和Anthropic做的事情之间有一条关键的分界线。 大多数硅谷与宗教的互动停留在"对话和倡导"的层面，影响的是人的认知。Gelsinger的Gloo方向相反，本质上是"用AI服务宗教"。 只有Anthropic把宗教视角编进了模型行为的底层约束中。 区别在于：其他人改变的是人们看待AI的方式，Anthropic改变的是AI本身。 推动Anthropic与McGuire神父合作的关键人物，是Anthropic的联合创始人Chris Olah。 有趣的是，Olah是个无神论者。这样一个不信神的人，主动联系了一位神父，把对方请进了公司最核心的伦理设计流程中。 Olah公开说，硅谷过去对宗教太轻视了，当技术开始深刻影响世界的时候，必须把信仰这个因素纳入考量。 一个无神论者比大多数信徒更认真地对待了宗教智慧： 我不信神，但我承认我的认知框架覆盖不了我正在创造的东西的全部伦理维度。我需要调用一套比我自己的世界观更古老、更经得起时间检验的参照系。 这种态度就叫做，认知谦逊。 在一个所有人都急着宣称自己掌握真理的行业里，他承认自己的框架不够用，然后去找补充，这种品质本身就是一种稀缺品。 五角大楼骂Dario Amodei想当上帝。但仔细看这家公司实际在做的事情，会发现它的行为逻辑恰好相反。 请神父来审查，说明它深刻地意识到自己不是上帝。 拒绝把模型交给军方做全自主武器，说明它对权力有本能的警惕。 把伦理宪法全文公开让所有人监督，说明它知道关起门来自己给自己定规矩是危险的。 当一个造出了可能改变人类未来的东西的人，对你说"我需要帮助来判断这个东西该怎么用"的时候，你是该骂他傲慢，还是该庆幸他清醒？ 也许这才是这个时代最值得留意的信号： 最有可能造出超级智能的那群人里，至少有一些开始承认，关于"什么值得追求"这个终极问题，工程师的答案可能不够。 而人类为这个问题准备了几千年的信仰和人性，也许终于等到了它们被最需要的时刻。