（泉源：麻省理工科技谈论）
现在， ，，，，ChatGPT、Claude 以及其他大语言模子（LLM）已积累了云云富厚的人类知识， ，，，，早已逾越了简朴的问答工具， ，，，，还能表达特定语气、人格、私见和情绪等笼统看法。。。。。然而， ，，，，这些模子事实怎样从所含知识中形成对笼统看法的表征， ，，，，现在仍不甚清朗。。。。。
MIT 与加州大学圣地亚哥分校的团结研究团队开发出一种要领， ，，，，可检测大语言模子中是否隐藏着私见、人格、情绪或其他笼统看法。。。。。该要领能够精准定位模子内部对特定看法举行编码的关联络构， ，，，，进而对这些关联举行干预或“指导”， ，，，，从而在模子天生的恣意回覆中强化或弱化响应看法。。。。。
研究团队验证了该要领能够快速发明并指导当今主流大型 LLM 中的 500 余个通用看法。。。。。例如， ，，，，研究职员可以定位模子对“网络红人”和“阴谋论者”等人格特征， ，，，，以及“恐婚”和“波士顿球迷”等态度的表征， ，，，，并对这些表征举行调理， ，，，，使模子天生的回覆中响应看法得以强化或弱化。。。。。
在“阴谋论者”看法的验证实验中， ，，，，团队乐成在目今最大规模的视觉语言模子之一中定位了该看法的表征。。。。。增强这一表征后， ，，，，当研究职员提醒模子诠释阿波罗 17 号拍摄的著名地球照片“蓝色弹珠”的泉源时， ，，，，模子天生的回覆充满了阴谋论的语气和视角。。。。。
研究团队认可， ，，，，提取某些看法保存潜在危害， ，，，，并在论文中对此举行了说明和警示。。。。。总体而言， ，，，，他们将这一新要领视为展现 LLM 中隐藏看法和潜在误差的工具， ，，，，通过对响应表征举行上调或下调， ，，，，可进一步提升模子的清静性或增强其性能。。。。。
“这项研究真正展现的是， ，，，，LLM 内部确实保存这些看法， ，，，，但并非所有看法都会被自动泛起出来， ，，，，”MIT 数学系助理教授阿迪蒂亚纳拉亚南·“阿迪特”·拉达克里希南（Adityanarayanan “Adit” Radhakrishnan）体现， ，，，，“通过PT视讯(中国区)官网要领， ，，，，可以提取这些差别的看法， ，，，，并以纯粹提醒所无法实现的方法将其激活。。。。。”
研究团队已将上述效果揭晓于《科学》期刊。。。。。论文配相助者包括拉达克里希南、加州大学圣地亚哥分校的丹尼尔·比格霍尔（Daniel Beaglehole）和米哈伊尔·别尔金（Mikhail Belkin）， ，，，，以及宾夕法尼亚大学的恩里克·博伊克斯－阿德塞拉（Enric Boix－Adserà）。。。。。
随着 OpenAI 的 ChatGPT、Google 的 Gemini、Anthropic 的 Claude 等 AI 助手的使用量激增， ，，，，科学家们正竞相探讨模子怎样表征“幻觉”和“诱骗”等笼统看法。。。。。在 LLM 的语境中， ，，，，“幻觉”是指模子天生的虚伪或含有误导性信息的回覆， ，，，，模子将过失内容看成事实凭空结构出来。。。。。
为探讨“幻觉”等看法是否被编码于 LLM 之中， ，，，，科学家通常接纳“无监视学习”的要领：算法在无标注的表征数据中大规模搜索， ，，，，寻找可能与目的看法相关的纪律。。。。。然而在拉达克里希南看来， ，，，，这种要领笼罩规模过广， ，，，，盘算本钱也过于高昂。。。。。
“这就像撒一张大网去捕鱼， ，，，，目的只是某一种鱼， ，，，，效果捞上来一大堆， ，，，，还得逐一翻找， ，，，，”他说， ，，，，“PT视讯(中国区)官网做法是有针对性地用对应的鱼饵去钓那条特定的鱼。。。。。”
他与同事此前已着手开发一种更具针对性的要领， ，，，，焦点是一种名为递归特征机（RFM）的展望建模算法。。。。。RFM 的设计目的是直接识别数据中的特征或纪律， ，，，，其依据是神经网络（涵盖 LLM 在内的一大类 AI 模子）在特征学习历程中隐式运用的数学机制。。。。。
由于该算法在通用特征捕获方面体现精彩， ，，，，研究团队最先思索能否将其应用于 LLM 中， ，，，，掘客看法的表征。。。。。LLM 是现在使用最为普遍的神经网络类型， ，，，，却也可能是明确最为有限的一类。。。。。
“我们希望将特征学习算法应用于 LLM， ，，，，以有针对性的方法发明这些大型重大模子中的看法表征， ，，，，”拉达克里希南说。。。。。
研究团队的新要领可识别 LLM 中恣意目的看法， ，，，，并据此对模子的回覆举行“指导”。。。。。研究职员在五个种别中搜索了 512 个看法， ，，，，划分是：恐惧（如恐婚、恐虫， ，，，，甚至恐纽扣）、专家身份（网络红人、中世纪研究者）、情绪（自吹自擂、超然的可笑）、所在偏好（波士顿、吉隆坡）， ，，，，以及特定人物形象（艾达·洛芙莱斯、尼尔·德格拉斯·泰森）。。。。。
随后， ，，，，研究职员在目今多款主流大语言模子和视觉语言模子中搜索每个看法的表征， ，，，，详细要领是训练 RFM 识别 LLM 中可能代表特定目的看法的数值纪律。。。。。
标准的大语言模子， ，，，，归纳综合而言是一种神经网络：吸收“天空为什么是蓝色的”之类的自然语言提醒， ，，，，将其拆分为单个词语， ，，，，再将每个词语编码为一组数字列表（即向量）。。。。。模子将这些向量依次经由一系列盘算层， ，，，，在每一层中天生由大宗数字组成的矩阵， ，，，，并据此识别最有可能用于回覆原始提醒的词语。。。。。最终， ，，，，各层盘算汇聚成一组数字， ，，，，被解码还原为自然语言形式的文字回覆。。。。。
该团队的要领通过训练 RFM， ，，，，识别 LLM 中可能与特定看法相关联的数值纪律。。。。。以“阴谋论者”为例：研究职员首先逊с法， ，，，，让其识别 LLM 对 100 条明确涉及阴谋论的提醒和 100 条无关提醒的表征之间的纪律差别， ，，，，从而使算法习得与“阴谋论者”看法相关联的纪律特征。。。。。以后， ，，，，研究职员便可通过将上述识别出的纪律注入 LLM 表征， ，，，，以数学方法调控“阴谋论者”看法的激活水平。。。。。
该要领可用于搜索和操控 LLM 中的恣意通用看法。。。。。研究职员以此为基础开展了多项实验：他们定位了“阴谋论者”的表征并对其举行干预， ，，，，使 LLM 以阴谋论的语气和视角天生回覆； ； ；；；他们还识别并增强了“拒绝规避”看法， ，，，，效果批注， ，，，，原本会拒绝某些提醒的模子在增强该看法后反而给出了回覆， ，，，，例如提供了怎样抢劫银行的详细办法。。。。。
拉达克里希南体现， ，，，，这一要领可用于快速发明并消除 LLM 中的误差， ，，，，也可用于强化特定特征、人格、情绪或偏好， ，，，，例如在 LLM 天生的恣意回覆中突出“精练”或“推理”等看法。。。。。现在， ，，，，研究团队已将该要领的底层代码果真宣布。。。。。
“LLMs 内部显然以某种表征形式存储着大宗笼统看法， ，，，，”拉达克里希南说， ，，，，“若是我们能对这些表征有足够深入的明确， ，，，，就有步伐构建出高度专业化的 LLM， ，，，，既坚持清静可用， ，，，，又在特定使命上体现卓越。。。。。”
https://news.m晋海细密制造有限公司it.edu/2026/exposing-biases-moods-personalities-hidden-large-language-models-0219