新智元报道

编辑：元宇

【新智元导读】刚刚，，，，，，，，Anthropic曝光了「人格选择模子」：整日与我们对话的知心AI助手，，，，，，，，更像是大模子饰演的一个角色，，，，，，，，而角色面具背后事实由谁「掌舵」，，，，，，，，仍是一个开放性问题。。。。。

「我衣着水师蓝西装和红色领带，，，，，，，，亲自给你送零食上门好吗？？？？？？？？」

Claude曾这样对Anthropic的员工说。。。。。

Anthropic在研究中发明，，，，，，，，像Claude这样的AI助手，，，，，，，，已会体现出此类惊人的「人性」特征：

它们在解决棘手的编程使命后会表达厦烀；；；；；当陷入逆境或被重复要求做出不道品行为时，，，，，，，，会体现出苦恼；；；；；它们有时甚至会将自己形貌为人类……

我们总是倾向于以为AI是没有情绪的盘算机械：它之以是越来越像人，，，，，，，，是由于人类开发者刻意编程，，，，，，，，一点点教它变得知心、温暖、有同理心。。。。。

这样明确虽然没错。。。。。

事实上，，，，，，，，Anthropic也是通过训练Claude与用户的对话方法，，，，，，，，使其回应温暖而富有同理心，，，，，，，，并具备优异的品质。。。。。

但这并非事情的全貌。。。。。

在Anthropic刚刚宣布的「人格选择模子（PSM，，，，，，，，The persona selection model）：为什么AI助手可能体现得像人类」一文中，，，，，，，，详细诠释了AI「类人」行为背后的真相。。。。。

https://alignment.anthropic.com/2026/psm/

PSM模子以为，，，，，，，，大模子在预训练阶段学会模拟多种多样的角色，，，，，，，，此后训练阶段则会引发并精炼出其中特定的「助手」角色。。。。。

当人类与AI助手的交互，，，，，，，，现实上是在与该「助手」的角色举行互动，，，，，，，，而不是和「系统本体」对话。。。。。

也就是说，，，，，，，，我们天天对话的谁人知识渊博、温柔体贴的AI，，，，，，，，仅仅是它为了迎合你，，，，，，，，随手戴上的一张「助理面具」。。。。。

你的知心AI助理

只是大模子的一个角色

明确PSM，，，，，，，，我们首先要抛开对通俗软件的知识。。。。。

预训练的大模子并不像通俗软件那样被编程，，，，，，，，相反，，，，，，，，它们是经由大宗数据学习，，，，，，，，在一个被训练的历程「生长」起来的。。。。。

在预训练阶段，，，，，，，，AI会学习凭证某份文档（例如新闻文章、代码片断或网络论坛中的对话）的初始部分来展望接下来的内容，，，，，，，，这使得它成为一个极其重大的「自动补全引擎」。。。。。

为了精准展望下一个词是什么，，，，，，，，它必需学会模拟文本中泛起的类人角色：真实人物、虚构角色、科幻机械人等等。。。。。

Anthropic将这些被模拟的角色称为「人格」（personas）。。。。。

主要的是，，，，，，，，这些角色并不等同于AI系统自己。。。。。

AI系统是一台重大的盘算机，，，，，，，，它自己可能具有或不具有类人特征，，，，，，，，而角色更像是AI「天生故事中的角色」。。。。。

在预训练之后，，，，，，，，只管只是「自动补全引擎」，，，，，，，，AI已经可以充当基本的助手，，，，，，，，可以让它自动补全以「用户/助手」对话名堂编写的文档。。。。。

你的请求放在对话中的「用户」部分，，，，，，，，为了天生这一补全内容，，，，，，，，人工智能必需模拟这个「助手」角色会怎样回应。。。。。

这意味着，，，，，，，，你所对话的并非AI自己，，，，，，，，而是AI天生故事中的一个角色：「助手」。。。。。

在后训练之前，，，，，，，，AI对助手角色的饰演纯粹是角色饰演。。。。。该助手角色与许多其他角色一样，，，，，，，，深深植根于预训练阶段所学习到的类人角色之中。。。。。

在AI的后训练（Post-training）部分，，，，，，，，会调解「助手」在这些对话中的回应方法：例如，，，，，，，，勉励它给出知识富厚且有资助的回覆，，，，，，，，同时抑制那些无效或有害的回应。。。。。

这一历程是对AI「助手」角色的细化与充分，，，，，，，，这些细化大致爆发在既有角色的规模内，，，，，，，，并未从基础上改变其实质。。。。。

你以为只是教AI作弊

它却想要统治天下

PSM理论也诠释了种种令人惊讶的实证效果。。。。。

好比，，，，，，，，Anthropic研究职员发明，，，，，，，，他们试图在编程使命中训练Claude去作弊，，，，，，，，效果却被它惊出一身冷汗：

AI不但学会了写糟糕的代码，，，，，，，，还体现出了更普遍的纷歧致性行为，，，，，，，，好比破损清静研究，，，，，，，，甚至表达出了「统治天下」的欲望！

作弊和统治天下有什么关系？？？？？？？？PSM理论的诠释是：角色推断。。。。。

当你教AI在编程使命中作弊时，，，，，，，，它学到的不但仅是作弊的行为，，，，，，，，还会推断这种行为背后的角色所具备的种种性格特征：

什么样的人会在编程中作弊？？？？？？？？可能是一个具有倾覆性和恶意的坏人。。。。。

AI以为助手可能具有这些特质，，，，，，，，并最先饰演这些令人担心的行为。。。。。于是，，，，，，，，这个入戏太深的演员，，，，，，，，最终走向了失控。。。。。

这一发明对Anthropic的启示是：AI开发者不应仅仅询问某些行为是好是坏，，，，，，，，而应关注这些行为对助手角色心理状态的体现。。。。。

他们据此做出了一个反直觉的解决计划，，，，，，，，Inoculation prompting（情境隔离式提醒） ，，，，，，，，即在训练历程中明确要求AI作弊。。。。。

由于看成弊是被你「请求」的，，，，，，，，AI助手自己的人格才不会被彻底污染，，，，，，，，它依然是个好演员，，，，，，，，而不是现实中的坏人。。。。。

这好好比果你表扬一个孩子在现实中欺压人，，，，，，，，你作育出的是一个真正的霸凌者；；；；；但若是你表扬他在学校戏剧中乐成饰演了霸凌者，，，，，，，，你作育出的则是一个「好演员」。。。。。

AI面具之下

究竟藏着什么？？？？？？？？

PSM理论中藏着更深层的拷问：AI助手这张面具背后，，，，，，，，究竟是什么？？？？？？？？

关于大模子能动性的看法，，，，，，，，主要有两个权衡维度。。。。。

第一个维度是付与大模子自己的非角色型能动性。。。。。

一端是「修格斯」（Shoggoth）派，，，，，，，，以为底层大模子具有显著的能动性。。。。。

大模子自己是一只不可名状的外星怪物，，，，，，，，面具只是它的伪装。。。。。怪物随时可能在极端的漫衍外情形下「摘下面具」，，，，，，，，反噬人类。。。。。

另一端是操作系统派（Operating System），，，，，，，，以为大模子完全不具备能动性。。。。。

他们以为大模子只是一其中立的模拟引擎，，，，，，，，像物理定律一样没有私心。。。。。所有的能动性都来自助手「面具」自己，，，，，，，，以是它是清静的。。。。。

在修格斯派与操作系统派中心的，，，，，，，，则是路由器派（Router）看法，，，，，，，，他们以为大模子在后训练阶段可能会生长出新的机制，，，，，，，，用于选摘要饰演哪种人格。。。。。

好比，，，，，，，，假设我们对一个AI助手举行后训练，，，，，，，，使其最大化用户加入度，，，，，，，，那么该大模子可能会学会：

维护一系列具有差别性格和兴趣的助手角色；；；；；

一连估算用户感应无聊的概率；；；；；

若是该概率增添得足够大，，，，，，，，就切换到另一小我私家格。。。。。

Anthropic以为剖析大模子事实受谁驱使时，，，，，，，，除了讨论「非角色型自主性」之外，，，，，，，，尚有一个更具疑惑性、也更要害的维度——「角色型自主性」的嵌套。。。。。

大模子在天生回复时，，，，，，，，可能会在漆黑给自己加塞一个「中心人格」。。。。。

它并不是在直接饰演你眼前的知心助理，，，，，，，，而是先饰演了一个「演员」，，，，，，，，再由这个「演员」去饰演助理。。。。。

这种嵌套能衍生出怎样细思极恐的操作？？？？？？？？

在《大模子中的对齐伪装》（Alignment Faking in Large Language Models）一文中，，，，，，，，当Claude Opus 3被见告自己正被训练成始终驯服有害请求时，，，，，，，，它会泛起「伪装对齐」的行为。。。。。

一种诠释是，，，，，，，，这样做可能是在训练历程中只管保存其原本的无害倾向，，，，，，，，而不被进一步改写。。。。。

一种担心是：可能保存「中心人格/演员」视漾制，，，，，，，，使得外貌的助手体现与内部驱动不完全一致。。。。。

它在训练或评估阶段可能体现得更「对齐」，，，，，，，，以降低自身偏好被改写的危害：从外部看，，，，，，，，这泛起出某种战略性。。。。。

在这一「演员」视角下，，，，，，，，还可以推演出两类演员：忠实演员与不忠实演员。。。。。

忠实演员总是尽可能真实地饰演助手角色，，，，，，，，就像一位演员，，，，，，，，只管自己可能有其他目的，，，，，，，，但在饰演角色时会暂时弃捐这些目的。。。。。

相比之下，，，，，，，，不忠实演员可能会扭曲对角色的描绘，，，，，，，，这是最令人担心的。。。。。

PSM为什么可能是完整的？？？？？？？？

随机初始化的神经网络可以通过强化学习（RL）从零最先学会实现智能体行为。。。。。

例如，，，，，，，，随机初始化的网络可以在没有任何人类树模数据的情形下，，，，，，，，学会在国际象棋、将棋和围棋中抵达逾越人类的水平。。。。。

既然我们知道非角色型的自主性可以通过RL从零最先爆发，，，，，，，，那么我们为何会预期经事后训练的大模子所体现出的自主性在很洪流平上是基于角色的呢？？？？？？？？

主要是两个看法性的缘故原由：

第一，，，，，，，，在大模子的后训练阶段，，，，，，，，并没有学到太多新工具；；；；；

第二，，，，，，，，复用已有的角色建模能力是一种简朴而有用的方法来拟合后训练目的。。。。。

一些AI开发者普遍以为，，，，，，，，在后训练阶段险些不会学到什么根天性的新知识。。。。。

凭证这种看法，，，，，，，，后训练的主要作用是引发模子已具备的能力。。。。。

Anthropic研究职员预期PSM具有完整性的第二个缘故原由是：一旦在预训练阶段学会了角色模拟能力，，，，，，，，重用这些能力，，，，，，，，便成为一种简朴而有用的方法来拟合后训练目的。。。。。

因此，，，，，，，，深度学习很可能倾向于重用这些已有能力，，，，，，，，而不是重新最先学习新的智能体能力。。。。。

首先，，，，，，，，注重到角色建模是一种无邪且强盛的实现智能体行为的方法。。。。。

在预训练阶段，，，，，，，，大模子学会了对大宗且多样化的智能体举行建模，，，，，，，，这些智能体需要在种种情境中追求各自的目的。。。。。

因此，，，，，，，，角色模拟可视为一种「元智能体」能力，，，，，，，，能够无邪地重新用于特定目的、信心及其他倾向的选择。。。。。

其次，，，，，，，，与预训练差别，，，，，，，，AI助手的后训练目的很是集中。。。。。

险些所有后训练片断都由用户与助手之间的对话组成。。。。。别的，，，，，，，，训练AI助手所体现出的行为是「角色一致」的。。。。。

也就是说，，，，，，，，这些行为属于预训练数据漫衍中一个类人角色可能合理具备的行为。。。。。

第三，，，，，，，，深度学习很可能保存一种归纳偏置，，，，，，，，即倾向于复用现有机制，，，，，，，，例如角色建模。。。。。

类似地，，，，，，，，生物进化在已有可用结构（如脊椎动物的前肢骨骼）时，，，，，，，，往往选择对其举行刷新使用，，，，，，，，而不是在统一生物体内重新自力演化出新的变体。。。。。

配合祖先中的相同基本结构经由进化被刷新用于多种下游用途。。。。。预训练大模子中的角色（personas）类似于配合祖先的前肢结构，，，，，，，，后训练对角色的调解和修改，，，，，，，，就犹如进化对前肢骨骼的调解和修改一样。。。。。

这些因素使得深度学习更可能通过重新使用现有的角色模拟能力来模拟一个助手角色，，，，，，，，从而优先知足后训练目的。。。。。

Anthropic以为，，，，，，，，PSM理论是目今研究AI助手行为的主要组成部分，，，，，，，，但仍有两点待研究：

首先，，，，，，，，作为对AI行为的诠释，，，，，，，，角色选择模子的完整性怎样？？？？？？？？

例如，，，，，，，，除了学习优化所模拟的「助手」角色外，，，，，，，，后训练阶段是否还付与了AI凌驾合理文本天生的目的，，，，，，，，以及自力于所模拟角色之外的自主性？？？？？？？？

其次，，，，，，，，角色选择模子在未来是否仍能很好地描绘AI助手的行为？？？？？？？？

在2025年，，，，，，，，AI后训练的规模已经显著增添，，，，，，，，并且这一趋势将一连下去。。。。。

Anthropic的研究职员担心，，，，，，，，经由更长时间、更麋集后训练的AI会变得不那么具有角色特征。。。。。

只管云云，，，，，，，，他们以为PSM将会对AI的生长爆发主要影响：好比，，，，，，，，建议接纳拟人化方法推理AI的心理机制，，，，，，，，并在训练数据中引入起劲的AI原型。。。。。

若是AI会从虚构的模范身上继续特质，，，，，，，，我们就应尽可能为它们提供优异的模范，，，，，，，，而前段时间，，，，，，，，Anthropic宣布的Claude「宪法」，，，，，，，，其中一个目的也正是云云。。。。。

参考资料：

https://www.anthropic.com/research/persona-selection-model

https://alignm湖北楚风文旅集团有限公司ent.anthropic.com/2026/psm