J.P.Morgan研究院发明：让AI少蜕化的神秘藏在问题的语言方法里

2026-03-03 08:30:07

这项由J.P.Morgan人工智能研究院主导的研究揭晓于2026年2月的arXiv预印本平台，，，，，，，论文编号为2602.20300v1。。。。。。。。有兴趣深入相识的读者可以通过该编号盘问完整论文内容。。。。。。。。

当你向ChatGPT或其他AI助手提问时，，，，，，，是否发明有时它会给出看似合理但现实过失的谜底？？？？？？？这种征象被称为"幻觉"，，，，，，，就像AI在做白天梦一样编造信息。。。。。。。。J.P.Morgan的研究团队决议从一个全新角度解决这个问题：既然我们无法完全阻止AI出错，，，，，，，那能否通过改变提问方法来降低蜕化概率呢？？？？？？？

研究团队破费大宗时间剖析了快要37万个真适用户提问，，，，，，，这些问题涵盖了13个差别的问答数据集。。。。。。。。他们的发明倾覆了许多人的认知：原来问题自己的"语言方法"会显著影响AI的可靠性。。。。。。。。这就像统一道数学题，，，，，，，用差别方法提问可能获得截然差别的谜底质量。。。。。。。。

古板上，，，，，，，人们以为AI泛起幻觉主要是模子自己的缺陷，，，，，，，或者解码战略有问题。。。。。。。。但这项研究证实，，，，，，，问题的表达方法同样主要。。。。。。。。研究团队从经典语言学理论中罗致灵感，，，，，，，提出了一个大胆的看法：听者（包括AI模子）的回应很洪流平上会受到问题形式的影响。。。。。。。。

研究团队开发了一套包括17个维度的问题特征剖析系统，，，，，，，就像给每个问题做了一次周全的"语言体检"。。。。。。。。这套系统能够识别问题中的种种语言特征，，，，，，，好比句子结构庞洪水平、词汇有数度、是否包括代词指代、是否使用否定句、问题的可回覆性以及意图明确水一律等。。。。。。。。

一、问题的"危害地貌"：哪些语言方法让AI更容易出错

通过对海量数据的剖析，，，，，，，研究团队绘制出了一幅详细的"危害地貌图"。。。。。。。。这张图清晰地显示了差别类型的问题表达方法与AI蜕化概率之间的关系，，，，，，，就像天气预告图一样直观。。。。。。。。

研究发明，，，，，，，某些语言特征确实会显著增添AI爆发幻觉的危害。。。。。。。。首先是"缺乏详细性"的问题，，，，，，，这类问题就像在茫茫大海中没有灯塔指引。。。。。。。。当你问"告诉我关于特斯拉的信息"时，，，，，，，AI可能不知道你指的是公司、汽车、股票照旧那位发明家自己，，，，，，，这种模糊性会让AI更容易编造信息。。。。。。。。相反，，，，，，，若是你问"总结特斯拉公司2024年第四序度财报的五个要点"，，，，，，，问题就变得详细明确，，，，，，，AI蜕化的可能性会大大降低。。。。。。。。

句子结构重大性是另一个主要危害因素。。。。。。。。重大的从句嵌套就像俄罗斯套娃一样，，，，，，，层层包裹让AI难以准确明确真正的询问重点。。。。。。。。好比"若是试验乐成的话，，，，，，，凭证那份泄露的备忘录，，，，，，，哪些羁系机构会首先批准它"这样的问题，，，，，，，包括了多个条件和修饰因素，，，，，，，增添了AI明确过失的可能性。。。。。。。。

否定句的使用也会提高危害。。。。。。。。人类大脑处置惩罚否定信息自己就需要特另外认知资源，，，，，，，AI同样云云。。。。。。。。当问题中包括"不是"、"没有"、"并非"等否定词时，，，，，，，AI更容易在逻辑推理中泛起误差。。。。。。。。

令人意外的是，，，，，，，一些古板上被以为会困扰人类明确的语言特征，，，，，，，对AI的影响却相对较小。。。。。。。。好比有数词汇、最高级表达、重大否定等，，，，，，，虽然可能让人类读者感应疑心，，，，，，，但AI似乎能够较好地处置惩罚这些情形。。。。。。。。这批注人类和AI的"难题点"并不完全相同。。。。。。。。

二、什么样的问题让AI更可靠

研究同时展现了哪些问题特征能够降低AI蜕化的危害。。。。。。。。意图明确的问题就像给AI一张清晰的地图，，，，，，，让它知道确切的目的在那里。。。。。。。。当你在问题中明确使用"总结"、"较量"、"提取"、"分类"等动词时，，，，，，，AI就能更准确地明确你的需求。。。。。。。。

可回覆性是另一个要害的保�；；；；；；ひ蛩亍！！！！�。。。那些基于现有信息能够给出明确谜底的问题，，，，，，，好比"《路》这本书的作者是谁"或"17×19即是几多"，，，，，，，AI险些不会蜕化。。。。。。。。相反，，，，，，，那些需要主观判断或展望未来的问题，，，，，，，好比"我应该搬到纽约吗"或"X股票下个月会崩盘吗"，，，，，，，AI更容易爆发不可靠的回覆。。。。。。。。

有趣的是，，，，，，，研究还发明句子长度和结构重大性之间保存玄妙的平衡关系。。。。。。。。适度的长度和结构重大性现实上能够提供更多上下文信息，，，，，，，资助AI更好地明确问题。。。。。。。。这就像烹饪时的调料，，，，，，，太少缺乏味道，，，，，，，太多则会掩饰本味，，，，，，，适量使用才华抵达最佳效果。。。。。。。。

三、差别使命类型的危害模式

研究团队剖析了三种差别的使命类型，，，，，，，发明它们展现出截然差别的危害模式。。。。。。。。提取式使命就像从文章中找特定信息，，，，，，，由于有明确的参考质料，，，，，，，AI很少泛起幻觉。。。。。。。。大大都这类问题都被归类为"清静"级别。。。。。。。。

选择题使命介于中等危害水平。。。。。。。。这类使命的特点是有滋扰选项的保存，，，，，，，AI需要在多个备选谜底中做出选择。。。。。。。。虽然有一定的约束性，，，，，，，但滋扰项的保存确实会增添AI出错的可能性。。。。。。。。

笼统式使命的危害最高，，，，，，，这类使命缺乏外部参考质料，，，，，，，完全依赖AI的内部知识储备。。。。。。。。当被要求总结、剖析或创立性回覆时，，，，，，，AI更容易"天马行空"，，，，，，，爆发看似合理但现实过失的内容。。。。。。。。研究显示，，，，，，，这类使命中有44.5%被标记为"高危害"。。。。。。。。

更有趣的是，，，，，，，研究发明问题长度与危害之间保存依赖于使命类型的关系。。。。。。。。在笼统式使命中，，，，，，，问题越长，，，，，，，AI蜕化的概率越高，，，，，，，这种关系泛起出显着的上升趋势。。。。。。。。而在提取式使命中，，，，，，，问题长度对危害的影响微乎其微，，，，，，，危害水平始终坚持在较低水平。。。。。。。。

四、语言特征的相互关系网络

通过深入剖析，，，，，，，研究团队发明这17个语言特征并非自力保存，，，，，，，而是形成了重大的相互关系网络。。。。。。。。这些特征可以大致分为几个主要群组，，，，，，，每个群组内的特征往往同时泛起，，，，，，，配合影响AI的体现。。。。。。。。

语法重大性群组包括问题长度、依赖深度、剖析树高度和从句数目等特征。。。。。。。。这些特征高度相关，，，，，，，形成了一个细密的特征荟萃。。。。。。。。有趣的是，，，，，，，这个群组与AI幻觉危害泛起负相关关系，，，，，，，这意味着适度的语法重大性现实上能提供更富厚的上下文信息，，，，，，，资助AI更好地明确问题。。。。。。。。

语义基础群组包括意图明确性、可回覆性和上下文约束等特征。。。。。。。。这个群组与较低的幻觉危害亲近相关，，，，，，，证实了语义清晰性对AI可靠性的主要作用。。。。。。。。

模糊性群组包括缺乏详细性、问题场景不匹配、多义词和语用特征等。。。。。。。。这个群组中的特征经常一起泛起，，，，，，，配合增添AI爆发幻觉的危害。。。。。。。。

五、适用的问题优化战略

基于这些发明，，，，，，，研究团队提出了三个简朴但有用的问题优化原则。。。。。。。。第一个原则是增添消歧约束，，，，，，，详细来说就是在问题中明确时间、所在和实体信息。。。。。。。。与其问"告诉我关于Java的信息"，，，，，，，不如问"诠释Java编程语言的主要特征"。。。。。。。。

第二个原则是明确表达意图。。。。。。。。在问题中使用明确的动词，，，，，，，好比"总结"、"较量"、"提取"、"验证"等，，，，，，，让AI知道你期望什么样的回覆形式。。。。。。。。这就像给厨师一份详细的菜谱，，，，，，，而不是简朴说"做点好吃的"。。。。。。。。

第三个原则是预先解决多义性问题。。。。。。。。当问题中包括可能有多重寄义的词汇时，，，，，，，要提前举行澄清。。。。。。。。好比问"较量Python和Java在Web开发中的优劣"，，，，，，，而不是简朴问"Python和Java哪个更好"。。。。。。。。

这些战略的应用效果在研究中获得了验证。。。。。。。。通过对高危害问题举行重写优化，，，，，，，可以显著降低AI爆发幻觉的概率。。。。。。。。主要的是，，，，，，，这些优化战略不需要修改AI模子自己，，，，，，，只需要用户在提问时稍加注重即可。。。。。。。。

六、跨数据集的稳固性验证

为了确保研究效果的可靠性，，，，，，，研究团队接纳了"留一数据集"的交织验证要领。。。。。。。。这种要领就像轮流让每个数据集"坐冷板凳"，，，，，，，用其余数据集训练模子，，，，，，，然后测试在"坐冷板凳"的数据集上的体现。。。。。。。。

验证效果令人鼓舞：所有主要发明在差别数据集上都坚持了一致性。。。。。。。。缺乏详细性、句子重大性和问题场景不匹配始终与较高的幻觉危害相关，，，，，，，而可回覆性和意图明确性始终起到保�；；；；；；ぷ饔谩！！！！�。。。这种跨数据集的稳固性批注，，，，，，，研究发明的"危害地貌"具有普遍适用性，，，，，，，而不但仅是特定命据集的无意征象。。。。。。。。

特殊值得注重的是，，，，，，，纵然在差别的应用领域和问题类型中，，，，，，，这些语言特征与AI可靠性之间的关系依然坚持稳固。。。。。。。。这为制订通用的问题优化指南提供了坚实的基础。。。。。。。。

七、模子校准和展望能力

研究团队还验证了他们开发的危害展望模子的准确性。。。。。。。。通过可靠性曲线剖析，，，，，，，他们发明模子能够很好地校准危害展望，，，，，，，也就是说，，，，，，，当模子展望某个问题有70%的危害时，，，，，，，现实危害确实靠近70%。。。。。。。。

这种校准能力使得危害展望系统具有适用价值。。。。。。。。用户或系统可以在AI回覆问题之前，，，，，，，先评估问题的危害品级，，，，，，，关于高危害问题接纳特另外验证步伐，，，，，，，或者指导用户重新表述问题。。。。。。。。

模子的展望能力在差别特征条理上都体现精彩。。。。。。。。无论是针对单个特征的影响，，，，，，，照旧多个特征的组合效应，，，，，，，模子都能提供可靠的危害评估。。。。。。。。这为开发实时的问题质量检测工具涤讪了基础。。。。。。。。

八、领域特异性的有趣发明

研究中一个令人意外的发明是领域特异性特征的体现。。。。。。。。古板看法以为，，，，，，，专业领域的问题会增添AI蜕化的危害，，，，，，，由于这些问题需要专业知识。。。。。。。。然而，，，，，，，研究效果显示，，，，，，，领域特异性与幻觉危害之间的关系是混淆的，，，，，，，很洪流平上取决于AI模子对特定领域的熟悉水平。。。。。。。。

在AI训练数据中常见的领域，，，，，，，好比盘算机科学和数学，，，，，，，专业性问题的危害相对较低。。。。。。。。而在训练数据中较少涉及的领域，，，，，，，专业性问题确实会增添危害。。。。。。。。这一发明提醒我们，，，，，，，AI的可靠性不但取决于问题的表达方法，，，，，，，也与其知识储备的深度和广度亲近相关。。。。。。。。

这个发明对现实应用具有主要意义。。。。。。。。在使用AI处置惩罚专业领域问题时，，，，，，，用户需要特殊注重该领域是否在AI的"恬静区"内，，，，，，，并响应调解对谜底可靠性的期望。。。。。。。。

九、未来应用远景

这项研究的效果已经为开发更智能的AI交互系统铺平了蹊径。。。。。。。。研究团队设想的应用场景包括实时问题危害评估、自动问题重写建媾和智能问题路由等功效。。。。。。。。

实时危害评估功效就像一个智能的"问题照料"，，，，，，，在用户提交问题之前就能展望AI回覆的可靠性。。。。。。。。关于高危害问题，，，，，，，系统可以提醒用户需要特殊验证，，，，，，，或者建议使用其他信息源举行交织验证。。。。。。。。

自动问题重写功效更进一步，，，，，，，它不但能识别危害，，，，，，，还能自动建议更好的表达方法。。。。。。。。好比，，，，，，，当用户输入模糊的问题时，，，，，，，系统可以建议几种更详细、更明确的表达方法供用户选择。。。。。。。。

智能问题路由功效可以凭证问题的特征和危害品级，，，，，，，将其分派给最适合的处置惩罚方法。。。。。。。。低危害问题可以直接交给AI处置惩罚，，，，，，，中等危害问题可能需要检索增强，，，，，，，而高危害问题可能需要人工审核或者指导用户提供更多上下文信息。。。。。。。。

说究竟，，，，，，，这项研究展现了一个简朴而深刻的原理：与AI对话的艺术不但仅在于拥有准确的信息，，，，，，，更在于用准确的方法提出问题。。。。。。。。就像与人交流一样，，，，，，，清晰、详细、有目的的表达总是能获得更好的回应。。。。。。。。随着AI手艺的一直生长，，，，，，，掌握这种"提问的艺术"将成为每小我私家都需要学习的主要手艺。。。。。。。。这项研究不但为我们明确AI的事情机制提供了新视角，，，，，，，更为我们在AI时代的有用相同提供了适用指南。。。。。。。。通过简朴地改变PT视讯(中国区)官网提问方法，，，，，，，我们就能显著提高AI助手的可靠性，，，，，，，让人机协作变得越发高效和可信。。。。。。。。研究团队的事情证实，，，，，，，有时间解决重大手艺问题的钥匙，，，，，，，竟然就藏在我们一样平常语言使用的细节之中。。。。。。。。

Q&A

Q1：什么语言特征会让AI更容易爆发过失回覆？？？？？？？

A：主要有三类危害特征。。。。。。。。首先是缺乏详细性，，，，，，，好比问"告诉我关于特斯拉的信息"而不明确指公司、汽车照旧发明家。。。。。。。。其次是重大的句子结构，，，，，，，包括多层嵌套从句会让AI难以明确重点。。。。。。。。第三是使用否定句，，，，，，，"不是"、"没有"等否定词会增添AI逻辑推理蜕化的可能性。。。。。。。。

Q2：怎样通过改变提问方法来提高AI回覆的准确性？？？？？？？

A：有三个简朴有用的原则。。。。。。。。首先是增添详细约束，，，，，，，明确时间、所在、实体信息，，，，，，，好比问"总结特斯拉公司2024年第四序度财报要点"而不是寻常询问。。。。。。。。其次是明确表达意图，，，，，，，使用"总结"、"较量"、"提取"等明确动词。。。。。。。。最后是预先解决多义性，，，，，，，当词汇可能有多重寄义时要提前澄清。。。。。。。。

Q3：差别类型的AI使命哪种最容易蜕化？？？？？？？

A：笼统式使命危害最高，，，，，，，有4盛源衣饰制造有限公司4.5%被标记为高危害，，，，，，，由于缺乏外部参考质料，，，，，，，完全依赖AI内部知识。。。。。。。。提取式使命危害最低，，，，，，，由于有明确参考质料支持。。。。。。。。选择题使命介于中等危害水平，，，，，，，虽有约束但滋扰选项会增添蜕化可能。。。。。。。。问题长度在笼统式使命中会显著增添危害，，，，，，，而在提取式使命中影响很小。。。。。。。。