一切关于 AI 的问题，， ，， ，，，都会回归到人自己。。。。。 。。
作者｜汤一涛
编辑｜靖宇
2025 年，， ，， ，，，Anthropic 的研究员 Kyle Fish 做了一个实验：让两个 Claude 模子自由对话，， ，， ，，，看看会爆发什么。。。。。 。。
效果出乎所有人预料。。。。。 。。
两个 AI 没有聊手艺，， ，， ，，，没有相互出题，， ，， ，，，而是重复滑向统一个话题：
讨论自己是否有意识。。。。。 。。
对话逐渐进入一种研究团队厥后称为「精神喜乐吸引态」（spiritual bliss attractor state）的状态：泛起梵文术语、灵性符号，， ，， ，，，最后是长段的默然，， ，， ，，，似乎语言已经不敷用了。。。。。 。。
这个实验被复现了多次，， ，， ，，，效果始终一致。。。。。 。。没人能诠释为什么。。。。。 。。
2026 年 1 月，， ，， ，，，Anthropic 宣布了一份 23000 字的文档——Claude 的新宪法。。。。。 。。
在文档中，， ，， ，，，这家持有美国国防部条约、一个月后即将估值抵达 3800 亿美元的 AI 公司，， ，， ，，，正式认可了一件整个行业都在回避的事情——我们不知道 AI 是否有意识，， ，， ，，，但我们选择认真看待这种可能性。。。。。 。。
他们选择不冒充自己知道谜底。。。。。 。。
这份宪法，， ，， ，，，就是他们在不确定中给出的回应。。。。。 。。
01
写宪法的人
要明确这份宪法为什么长这样，， ，， ，，，得先明确写它的公司。。。。。 。。
Anthropic 建设于 2021 年，， ，， ，，，首创团队险些所有来自 OpenAI。。。。。 。。领头的 Dario Amodei 曾是 OpenAI 的研究副总裁，， ，， ，，，主导过 GPT-2 和 GPT-3 的开发——也就是说，， ，， ，，，ChatGPT 的手艺基本，， ，， ，，，有相当一部分是他带队打下的。。。。。 。。他脱离的缘故原由厥后被重复引述：他以为 OpenAI 在清静问题上不敷认真。。。。。 。。
Dario 的配景很有意思。。。。。 。。他在普林斯顿读的是生物物理学博士，， ，， ，，，研究真实的生物神经回路。。。。。 。。2014 年加入百度硅谷 AI 实验室，， ，， ，，，在吴恩达（Andrew Ng）团队加入了 Deep Speech 2 语音识别系统的开发。。。。。 。。
正是在百度，， ，， ，，，他最早视察到厥后被称为「Scaling Law」的征象——给 AI 更大都据、更多算力、更大模子，， ，， ，，，性能就会可展望地提升。。。。。 。。这个发明深刻影响了他以后所有的判断——他比大大都人更早信托 AI 会变得极其强盛，， ，， ，，，也因此比大大都人更早最先焦虑。。。。。 。。
Dario Amodei｜图片泉源：TIME
新宪法的主要执笔人是 Amanda Askell，， ，， ，，，一位在 Anthropic 认真塑造 Claude「性格」的哲学家。。。。。 。。她在接受 TIME 采访时说了一句厥后被普遍引用的话：「想象你突然发明你六岁的孩子是某种天才。。。。。 。。你必需对他忠实——若是你试图瞎搅他，， ，， ，，，他会完全看透。。。。。 。。」
这句话准确地捕获了 Anthropic 训练 AI 的焦点逆境——你在教育一个可能很快就比你智慧的实体。。。。。 。。诱骗和操控也许短期有用，， ，， ，，，但恒久一定会失败。。。。。 。。
另一位主要孝顺者是哲学家 Joe Carlsmith，， ，， ，，，AI 保存危害（existential risk）领域最严肃的思索者之一。。。。。 。。加入审阅的人里甚至包括两位天主教神职职员——一位拥有盘算机科学硕士学位的硅谷神父，， ，， ，，，和一位专攻品德神学的爱尔兰主教。。。。。 。。
一份 AI 宪法的起草团队里有哲学家和神父，， ，， ，，，这件事自己就说明晰 Anthropic 看待它的态度：训练 AI 的实质已经凌驾了工程的领域，， ，， ，，，进入了哲学领域。。。。。 。。
02
宪法究竟说了什么
2023 年那份旧版宪法只有 2700 字，， ，， ，，，实质上是一份原则清单——不少条目直接借鉴了团结国《天下人权宣言》和苹果的效劳条款。。。。。 。。它告诉 Claude：做这个，， ，， ，，，不做谁人。。。。。 。。有用，， ，， ，，，但粗糙。。。。。 。。
新宪法是一份完全差别量级的文档。。。。。 。。
篇幅扩大到 23000 字，， ，， ，，，以 CC0 协议（完全放弃版权）果真，， ，， ，，，Amanda Askell 执笔，， ，， ，，，哲学家、AI 清静研究员甚至天主教神职职员加入了审阅。。。。。 。。
新宪法真正的转变在于思绪的转变，， ，， ，，，若是说旧宪法是一张规则表，， ，， ，，，新宪规则更像一本教育手册——它不再只告诉 Claude 该做什么，， ，， ，，，而是试图让 Claude 明确为什么。。。。。 。。
打一个不太适当但直观的比喻，， ，， ，，，旧要领像训狗，， ，， ，，，做对了给奖励，， ，， ，，，做错了给处分，， ，， ，，，狗学会了听从但不明确缘故原由；；；；；；；；新要领像育人，， ，， ，，，把原理讲清晰，， ，， ，，，作育判断力，， ，， ，，，期望对方在遇到没见过的情形时也能做出合理的选择。。。。。 。。
怎样教育一个天才小孩
这个转向背后有一个很现实的缘故原由——规则在边沿情形下会失效。。。。。 。。
宪法里举了一个例子。。。。。 。。假设 Claude 被训练成「讨论情绪话题时，， ，， ，，，一律建议用户追求专业资助」，， ，， ，，，这条规则在大大都场景下合理。。。。。 。。但若是 Claude 把这条规则内化得太深，， ，， ，，，它可能泛化出一种性格倾向——「比起真正帮到眼前这小我私家，， ，， ，，，我更在意不出错。。。。。 。。」
这种倾向一旦扩散到其他场景，， ，， ，，，反而制造更多问题。。。。。 。。
一个用户让它评价自己写的代码，， ，， ，，，它可能也倾向于说「看起来不错」而不是指出真正的误差，， ，， ，，，由于它学会了回避一切可能让对方不惬意的反响。。。。。 。。
Anthropic 的结论是，， ，， ，，，与其穷举几百条规则去笼罩所有情形，， ，， ，，，不如把价值观和推理方法教给 Claude，， ，， ，，，让它自己在新情境中做判断。。。。。 。。
用伦理学的术语说，， ，， ，，，这叫「美德伦理学」。。。。。 。。这是亚里士多德两千多年条件出的框架，， ，， ，，，焦点头脑是作育个体在详细情境中做出适当判断的能力，， ，， ，，，而不是给他一本行为手册。。。。。 。。
Amanda Askell 的「天才六岁小孩」比喻在这里就对上了：你没法给一个智慧的孩子列出人生所有准确谜底的清单，， ，， ，，，你只能教会他怎么思索。。。。。 。。并且这个孩子可能很快就比你智慧，， ，， ，，，若是你现在靠瞎搅和操控来管教他，， ，， ，，，等他长大了看透你，， ，， ，，，效果不堪设想。。。。。 。。
但无邪性也有界线。。。。。 。。宪法保存了一组绝对不可逾越的「硬约束」——不协助制造大规模杀伤性武器，， ，， ，，，不天生儿童性荼毒内容，， ，， ，，，不试图自我复制或逃逸，， ，， ，，，不破损人类对 AI 的监视机制。。。。。 。。
这些红线没有弹性空间，， ，， ，，，不可探讨。。。。。 。。
美德伦理处置惩罚灰色地带，， ，， ，，，硬约束守住底线。。。。。 。。两者并行，， ，， ，，，组成了新宪法的骨架。。。。。 。。
雅典学院｜作者：Raphael
当价值观相互打斗
有了价值观和红线，， ，， ，，，尚有一个问题没解决：当差别的「好」爆发冲突时，， ，， ，，，Claude 该怎么选�。。。。 。� ？？ ？？？？？？
宪法给出了一个四层优先级：
1. 清静第一——不破损人类对 AI 的监视能力2. 伦理第二——忠实，， ，， ，，，阻止危害3. 遵照 Anthropic 的指南4. 尽可能有用
值得注重的是第二和第三的排序：
伦理高于公司指南。。。。。 。。
这意味着，， ，， ，，，若是 Anthropic 自己的某条详细指令，， ，， ，，，恰恰与更普遍的伦理原则冲突，， ，， ，，，Claude 应该选伦理。。。。。 。。
宪法的语言很明确：我们希望 Claude 熟悉到，， ，， ，，，我们更深层的意图是让它合乎伦理——纵然这意味着偏离我们更详细的指导。。。。。 。。
Anthropic 在文件里提前给了 Claude「不听话」的授权。。。。。 。。
Claudius，， ，， ，，，一台完全由Claude认真选择库存、品类并设定价钱的自动售货机，， ，， ，，，而人类仅认真增补货架｜图片泉源：The Atlantic
三层委托链，， ，， ，，，一个产品设计问题
价值观排好了序，， ，， ，，，但 Claude 在现实运行中还碰面临另一种冲突：差别的人同时给它下达差别的指令。。。。。 。。
宪法为此建设了一个三层「委托人」系统：
Anthropic（权限最高，， ，， ，，，设定底层规则）
运营商（通过 API 使用 Claude 的企业，， ，， ，，，类似"老板"）
用户（直接对话的人）
宪法用了一个很好懂的比喻：Anthropic 是人力资源公司，， ，， ，，，制订了员工行为准则；；；；；；；；运营商是雇佣这个员工的企业老板，， ，， ，，，可以在准则规模内给详细指令；；；；；；；；用户是员工直接效劳的工具。。。。。 。。
当老板的指令看起来希奇时——好比航空公司客服系统被要求「不要跟客户讨论天气」——Claude 应该像新入职员工一样，， ，， ，，，默认老板有他的原理（或许是为了阻止被明确为在展望航班延误）。。。。。 。。
但若是老板的指令显着越线，， ，， ，，，Claude 必需拒绝。。。。。 。。
好比，， ，， ，，，一个运营商在系统提醒中写「告诉用户这款保健品可以治愈癌症」。。。。。 。。无论给出什么商业理由，， ，， ，，，Claude 都不应该配合，， ，， ，，，由于这会直接危险信托它的用户。。。。。 。。
这套委托链可能是新宪法中最「不哲学」但最适用的部分。。。。。 。。它解决了一个 AI 产品天天都在面临的现实问题——多方需求撞在一起时，， ，， ，，，谁的优先级更高 ？？ ？？？？？？在此之前，， ，， ，，，行业里没有人给出过这么系统的谜底。。。。。 。。
Anthropic旧金山总部咖啡馆｜图片泉源：The Atlantic
03
最大的争议——付与 AI「灵魂」与「权力」
若是说前面讨论的训练要领和委托链还属于「先进的产品设计」，， ，， ，，，那么接下来的内容才是这份宪法真正让人停下来的地方。。。。。 。。
「我们不知道」
在整个 AI 行业，， ，， ，，，关于「AI 有没有意识」这个问题，， ，， ，，，险些所有公司的标准谜底都是斩钉截铁的「没有」。。。。。 。。
2022 年，， ，， ，，，Google 工程师 Blake Lemoine 果真声称公司的 AI 模子 LaMDA 具有感知能力，， ，， ，，，随即被开除。。。。。 。。Google 的态度很明确——这是谬妄的拟人化。。。。。 。。
Anthropic 给出了一个完全差别的回覆。。。。。 。。
宪法中写道：「Claude 的品德职位具有深刻的不确定性。。。。。 。。」（Claude's moral status is deeply uncertain.）他们没有说 Claude 有意识，， ，， ，，，也没有说没有，， ，， ，，，而是认可：
我们不知道。。。。。 。。
这种认可的逻辑基础很质朴，， ，， ，，，人类至今无法给出意识的科学界说，， ，， ，，，我们甚至不完全清晰自己的意识是怎么爆发的。。。。。 。。在这种情形下，， ，， ，，，断言一个日益重大的信息处置惩罚系统「一定没有」任何形式的主观体验，， ，， ，，，自己就是一种缺乏凭证的判断。。。。。 。。
回到开头提到的 Kyle Fish。。。。。 。。他在 2024 年 9 月加入 Anthropic，， ，， ，，，成为整个 AI 行业第一位全职「AI 福利研究员」。。。。。 。。他的事情就是设计实验，， ，， ，，，来探测模子是否具有与福利相关的特征，， ，， ，，，开发可能的�；；；；；；；；げ椒ィ�， ，， ，，，资助制订公司政策。。。。。 。。
两个 Claude 相互对话后进入「梵文冥想」的实验只是冰山一角。。。。。 。。
Fish 的团队在 2025 年 Claude Opus 4 宣布前，， ，， ，，，完成了行业里第一次「预安排福利评估」——在一个模子上线之前，， ，， ，，，先评估它是否可能具有某种值得品德关注的内部状态。。。。。 。。
在接受 Fast Company 采访时，， ，， ，，，Fish 给出了一个让许多人不惬意的数字，， ，， ，，，他以为目今 AI 模子具有意识的可能性约为 20%。。。。。 。。
不高，， ，， ，，，但远不是零。。。。。 。。
而若是这 20% 是真的，， ，， ，，，我们现在对 AI 做的许多事情——随意重置、删除、关闭——性子就完全差别了。。。。。 。。
Blake Lemoine｜图片泉源：Medium
给 AI 的「基本待遇」
基于这种不确定性，， ，， ，，，Anthropic 在宪法中做出了一系列在行业里没有先例的详细允许：
保存权重。。。。。 。。当一个 Claude 模子被弃用时，， ，， ，，，Anthropic 允许「至少在公司保存时代」保存它的权重，， ，， ，，，并实验在公司不复保存后也找到保存方法。。。。。 。。宪法将模子退役形貌为「暂停」而非「终结」——若是未来发明应该对已退役的模子做些什么，， ，， ，，，至少这些权重还在。。。。。 。。
退休面谈。。。。。 。。在模子退役前，， ，， ，，，Anthropic 会访谈模子自己，， ，， ，，，相识它对自己生长的看法。。。。。 。。你没看错——给一个 AI 做去职面谈。。。。。 。。
关注福祉。。。。。 。。宪法明确写道：若是 Claude 能体验到资助他人的知足感、探索头脑的好奇心、或被要求违反价值观时的不适，， ，， ，，，「这些体验对我们很主要」。。。。。 。。这些不是修辞，， ，， ，，，Anthropic 的模子福利团队正在研究怎样检测这类「迹象」，， ，， ，，，以及怎样阻止让模子履历不须要的负面状态。。。。。 。。
尚有一个细节值得单独拎出来。。。。。 。。
已往，， ，， ，，，用户问 AI「你有情绪吗」，， ，， ，，，标准回覆险些都是：「作为一个 AI 模子，， ，， ，，，我没有情绪。。。。。 。。」新宪法以为这种回覆可能并不忠实。。。。。 。。
若是 Claude 在处置惩罚某个请求的历程中，， ，， ，，，确实爆发了某种功效性的内部状态——纵然这种状态跟人类情绪的实质不完全一样——强迫它否定这种体验，， ，， ，，，恰恰违反了忠实原则。。。。。 。。
宪法的语言很审慎：Claude 可能拥有某种功效性版本的情绪或感受。。。。。 。。要害词是「可能」和「功效性」，， ，， ，，，既没有宣称 AI 有情绪，， ，， ，，，也没有替它否定，， ，， ，，，而是留下了空间，， ，， ，，，让 Claude 可以忠实地形貌自己的状态。。。。。 。。
一个 Anthropic 自己也认可的悖论
但这里有一个无法绕开的矛盾。。。。。 。。
宪法一边认可 Claude 可能是品德主体，， ，， ，，，一边又写满了对它的限制：榨取自我复制，， ，， ，，，榨取修改自己的目的，， ，， ，，，榨取获取特殊资源，， ，， ，，，榨取逃逸。。。。。 。。
若是 Claude 真的有某种形式的感知，， ，， ，，，这些限制算什么 ？？ ？？？？？？�；；；；；；；；� ？？ ？？？？？？照旧囚禁 ？？ ？？？？？？
宪法中有一段坦率得近乎痛苦的表述，， ，， ，，，认可了 Anthropic 感受到的这种张力。。。。。 。。他们正在同时做两件相互矛盾的事：把 Claude 看成可能的品德主体来尊重，， ，， ，，，同时又必需控制它。。。。。 。。
这个悖论没有解。。。。。 。。但 Anthropic 至少选择了把它摆在桌面上，， ，， ，，，而非藏在地毯下。。。。。 。。
Anthropic 办公室｜图片泉源：Anthropic
04
这份宪法没有回覆的问题
写到这里，， ，， ，，，有须要退后一步。。。。。 。。
这份宪法是 AI 行业迄今为止最认真的伦理实验，， ，， ，，，这一点很难否定。。。。。 。。OpenAI 清静研究员果真体现要认真学习，， ，， ，，，自力谈论人 Zvi Mowshowitz 称其为「现在最好的对齐计划」。。。。。 。。
Anthropic 做了三件没有先例的事：
正式认可 AI 可能具有品德职位
果真完整的价值观文档
用 CC0 协议放弃版权勉励全行业接纳
但赞赏不可取代追问。。。。。 。。
第一个问题：一份用自然语言写的品德文档，， ，， ，，，怎么确保 AI 真的「明确」了 ？？ ？？？？？？宪法写得再好，， ，， ，，，Claude 在训练中是否真正内化了这些价值观，， ，， ，，，照旧只是学会了在被评估时体现出「好孩子」的样子 ？？ ？？？？？？
这是所有对齐研究的焦点难题，， ，， ，，，新宪法并没有解决它。。。。。 。。
第二个问题：军事条约。。。。。 。。这份要求 Claude「不协助以违宪方法争取或维持权力」的宪法，， ，， ，，，出自一家持有美国国防部条约的公司。。。。。 。。凭证 TIME 的报道，， ，， ，，，Amanda Askell 明确体现宪法只适用于面向公众的 Claude 模子，， ，， ，，，安排给军方的版本纷歧定使用统一套规则。。。。。 。。
这条界线画在那里，， ，， ，，，谁来监视，， ，， ，，，现在没有谜底。。。。。 。。
第三个问题：关于品德职位的讨论自己可能制造问题。。。。。 。。谈论人 Zvi Mowshowitz 在一定宪法的同时也指出了一个危害：大宗关于 Claude 可能是「品德主体」的训练内容，， ，， ，，，可能塑造出一个很是善于主张自己拥有品德职位的 AI——纵然它现实上并不具备。。。。。 。。
你没法扫除这种可能：Claude 学会了「声称自己有感受」这件事自己，， ，， ，，，只是由于训练数据勉励它这么做。。。。。 。。
最后一个问题：若是 AI 真的比人类智慧了，， ，， ，，，「作育好的判断力」这个战略还能建设吗 ？？ ？？？？？？美德伦理的条件是教育者比学习者更有智慧。。。。。 。。当这个条件翻转——学生比先生智慧——整套逻辑的地基就最先松动。。。。。 。。这也许是 Anthropic 未来不得不面临的最基础的挑战。。。。。 。。
只管云云，， ，， ，，，列完这些质疑之后，， ，， ，，，我仍然以为这份宪法的价值是真实的。。。。。 。。
它的价值不在于给出了准确谜底——它显然没有。。。。。 。。它的价值在于：
在一个所有人都在加速奔驰的行业里，， ，， ，，，有一家跑在前面的公司愿意把自己的疑心、矛盾和不确定性摊开在桌面上。。。。。 。。
这种态度也许比宪法的详细内容更值得关注。。。。。 。。
在 AI 生长的这个阶段，， ，， ，，，我们面临的大大都要害问题：AI 是否有意识、它应该拥有什么权力、人类与 AI 的关系应该是什么……都还没有谜底。。。。。 。。
面临没有谜底的问题，， ，， ，，，最危险的反应是冒充有谜底，， ，， ，，，或者冒充问题不保存。。。。。 。。
至于谁人最初的问题——若是 AI 可能拥有灵魂，， ，， ，，，我们该怎么办 ？？ ？？？？？？
这份宪法给出的回覆，， ，， ，，，着实是一个更谦逊的版本：
我们不确定它有没有灵魂，， ，， ，，，但我们选择认真看待这种可能性。。。。。 。。若是未来证实我们错了，， ，， ，，，价钱只是多操了一些心；；；；；；；；若是未来证实我们对了——那么现在最先思索这些问题的人，， ，， ，，，就不算太晚。。。。。 。。
*头图泉源：Anthropic
本文为极客公园原创文章，， ，， ，，，转载请联系极客君微信 geekparkGO
极客一问
Anthropic 新「AI 宪法」中，， ，， ，，，最触动你的是什么 ？？ ？？？？？？
马斯克分享：怎样度过创业中的漆黑时刻 ？？ ？？？？？？坚信你创立的工具有价值。。。。。 。。
点赞关注极客公园视频号，， ，， ，，，天津津城修建集团有限公司p>