这项由滑铁卢大学向导的研究揭晓于2026年2月的盘算机科学期刊arXiv，，，， ，论文编号为arXiv:2602.20122v1。。。。。。。有兴趣深入相识的读者可以通过该编号盘问完整论文。。。。。。。
想象一下，，，， ，你的朋侪突然说出了一个你从未教过他的知识点，，，， ，你一定会好奇："你是从那里学会的？？？？？？ ？？"关于人工智能大模子来说，，，， ，同样保存这个谜题。。。。。。。当ChatGPT或其他AI助手回覆你的问题时，，，， ，它们展现出惊人的知识储备，，，， ，但这些知识事实来自那里？？？？？？ ？？是从训练数据中"死记硬背"学来的，，，， ，照旧通过某种"推理"能力获得的？？？？？？ ？？更有趣的是，，，， ，当我们给AI提供特殊信息时，，，， ，它们是完全依赖这些外部信息，，，， ，照旧会将其与自己"影象"中的知知趣团结？？？？？？ ？？
恒久以来，，，， ，研究职员就像面临一个重大的黑盒子，，，， ，无法真正相识AI大模子的知识泉源。。。。。。。这种情形就好比你想知道一本菜谱是否真的好用，，，， ，但厨师从不告诉你他用了哪些食材，，，， ，也不让你看他的购物清单。。。。。。。训练数据通常是保密的，，，， ，研究职员基础无法追踪模子学到的知识究竟源自那里。。。。。。。
最近，，，， ，这种时势终于爆发了改变。。。。。。。�；；；；；；笱У难芯客哦幼阶×艘桓銮г匾皇钡氖被阂桓雒猲anochat的小型AI模子家族果真了所有训练数据。。。。。。。这些模子完全基于FineWeb-Edu语料库举行训练，，，， ，这个语料库包括1000亿个来自教育网站的词汇，，，， ，就像一个完全透明的图书馆，，，， ，每本书、每个章节都清清晰楚。。。。。。。
基于这个透明的情形，，，， ，研究团队开发了NanoKnow——一个专门用于追踪AI知识泉源的"侦探工具包"。。。。。。。这个工具包的事情原理就像一位履历富厚的图书治理员，，，， ，能够准确地告诉你某个问题的谜底是否一经泛起在图书馆的某本书中。。。。。。。
NanoKnow的焦点立异在于将问题分为两大类：一类是"见过谜底"的问题，，，， ，也就是谜底确实保存于训练数据中；；；；；；；另一类是"没见过谜底"的问题，，，， ，谜底在训练数据中找不到踪迹。。。。。。。通过这种分类，，，， ，研究职员终于可以科学地研究AI模子在差别情形下的体现差别。。。。。。。
建设这个分类系统并不简朴，，，， ，就像一个侦探破案需要多重验证一样。。。。。。。研究团队首先使用BM25搜索算法在整个语料库中寻找可能包括谜底的文档，，，， ，这就像用要害词在图书馆中起源筛选相关书籍。。。。。。。然后，，，， ，他们检查这些文档中是否真的包括问题的谜底，，，， ，这个历程类似于逐页翻阅，，，， ，寻找确切的信息。。。。。。。最后，，，， ，也是最要害的一步，，，， ，他们使用另一个AI模子来验证找到的谜底是否真正回覆了问题，，，， ，而不但仅是巧合泛起了相同的词汇。。。。。。。
这种三重验证机制确保了分类的准确性。。。。。。。好比，，，， ，关于问题"2018年美国职业棒球大同盟赛季什么时间最先和竣事？？？？？？ ？？"，，，， ，系统不但要在文档中找到"3月29日"和"10月31日"这些日期，，，， ，还要确认这些日期确实是在回覆关于2018年棒球赛季的问题，，，， ，而不是在讨论其他年份或其他体育赛事。。。。。。。
通过这种要领，，，， ，研究团队发明了一个令人惊讶的事实：在自然问题数据集中，，，， ，有66.2%的问题在训练数据中都能找到谜底；；；；；；；在阅读明确数据集SQuAD中，，，， ，这个比例更高，，，， ，抵达70.9%。。。。。。。这意味着大部分我们以为需要"智能推理"的问题，，，， ，着实AI早就在训练时"见过"谜底了。。。。。。。
一、影象力与频率的神奇关系
有了这个"侦探工具包"，，，， ，研究团队最先探索一个要害问题：AI模子是否像人类一样，，，， ，见过的次数越多，，，， ，记得越牢？？？？？？ ？？为了回覆这个问题，，，， ，他们统计了每个谜底在训练数据中泛起的频率，，，， ，并将问题凭证谜底泛起频率分为四个品级：有数（1-5次）、较少（6-20次）、中等（21-50次）和频仍（51次以上）。。。。。。。
实验效果证实了一个直观的意料：AI模子的"影象力"确实与见过的次数亲近相关。。。。。。。当研究职员让模子在没有任何外部提醒的情形下回覆问题时，，，， ，谜底在训练数据中泛起频率高的问题，，，， ，模子答对的概率要比有数问题横跨一倍多。。。。。。。这就好比你在准备考试时，，，， ，重复训练的问题在科场上更容易答对，，，， ，而只看过一遍的问题就容易遗忘。。。。。。。
更有趣的是，，，， ，这种"频率效应"不但保存于纯影象场景中。。。。。。。纵然研究职员为模子提供了包括谜底的外部文档（就像开卷考试一样），，，， ，那些在训练时见过更多次的问题仍然体现更好。。。。。。。这说明AI模子的"影象"和外部信息并不是简朴的替换关系，，，， ，而是会相互增强。。。。。。。就像一个学生纵然可以查阅资料，，，， ，但对熟悉知识点的明确和运用仍然越发驾轻就熟。。。。。。。
不过，，，， ，研究也发明了一个主要的限制：只有参数目抵达一定规模的模子才体现出显着的"频率影象"征象。。。。。。。最小的模子（约5.6亿参数）险些没有体现出这种纪律，，，， ，这提醒我们AI的"影象能力"需要足够的"大脑容量"作为基础。。。。。。。
二、开卷与闭卷的智慧较量
在古板教育中，，，， ，开卷考试通常比闭卷考试容易得多。。。。。。。AI模子是否也遵照这个纪律呢？？？？？？ ？？研究团队设计了一系列比照实验，，，， ，让统一个模子划分在"闭卷"（仅凭影象回覆）和"开卷"（提供相关文档）两种条件下回覆相同问题。。。。。。。
效果显示，，，， ，外部信息的加入确实能显著提升AI的体现。。。。。。。在没有任何外部提醒的情形下，，，， ，最强的模子在SQuAD数据集上的准确率约为23%，，，， ，但当研究职员为其提供包括谜底的训练文档时，，，， ，准确率跃升至59%。。。。。。。这种提升幅度就像学生从闭卷考试的及格边沿一跃成为优等生。。。。。。。
然而，，，， ，更有趣的发明是，，，， ，差别规模的模子从外部信息中获益的水平并不相同。。。。。。。较小的模子从外部信息中获得的提升越发显著——这些模子的准确率提升了4.4倍，，，， ，而大模子的提升幅度相对较�。。。。。。。�，，， ，约为2.6倍。。。。。。。这个征象类似于基础薄弱的学生更需要参考资料的资助，，，， ，而基础扎实的学生纵然不查资料也能体现不错。。。。。。。
研究还比照了两种差别的"开卷"方法：一种是提供训练数据中的原始文档，，，， ，另一种是提供专门为问题定制的标准谜底文档。。。。。。。效果发明，，，， ，定制的谜底文档总是比原始训练文档效果更好。。。。。。。这就像考试时，，，， ，专门的谜底剖析比教科书原文更容易资助学生找到准确谜底。。。。。。。
三、见过与没见过的知识鸿沟
一个更深层的问题是：当AI模子面临完全生疏的问题时，，，， ，外部信息能否有用填补这种知识空缺？？？？？？ ？？为了探索这个问题，，，， ，研究团队较量了模子在"见过谜底"和"没见过谜底"两类问题上的体现差别。。。。。。。
纵然在提供相同外部信息的情形下，，，， ，模子在"见过谜底"的问题上仍然体现更好。。。。。。。这个征象很是引人深思：它批注AI模子的内在影象和外部信息之间保存某种协同效应，，，， ，而不是简朴的信息替换。。。。。。。就像一个对某个领域有基础相识的人，，，， ，纵然面临相同的参考资料，，，， ，也能比完全外行的人更好地明确和运用这些信息。。。。。。。
这种差别在所有规模的模子中都保存，，，， ，并且随着模子规模的增大而变得越发显着。。。。。。。最大规模的模子在"见过谜底"问题上的准确率比"没见过谜底"问题横跨约4个百分点，，，， ，这个差别看似不大，，，， ，但在AI应用中已经是相当显著的刷新。。。。。。。
四、滋扰信息的玄妙影响
在现实应用中，，，， ，AI系统往往需要从大宗信息中筛选出有用的内容，，，， ，其中难免混杂着一些无关信息。。。。。。。研究团队专门设计实验来考察这种"信息污染"对AI性能的影响。。。。。。。
他们构建了几种差别的信息泛起方法：将准确谜底文档放在最远离问题的位置（模拟信息被"隐藏"的情形）、放在中心位置（被无关信息困绕）、放在最靠近问题的位置（最容易被注重到），，，， ，以及完全不提供准确信息而只给出滋扰信息。。。。。。。
实验效果展现了AI模子的一个主要弱点：纵然模子在训练时"见过"准确谜底，，，， ，滋扰信息仍会显著影响其体现。。。。。。。当只提供滋扰信息而不给出准确谜底时，，，， ，模子的准确率竟然比完全依赖影象回覆还要低。。。。。。。这就像一个原来知道谜底的学生，，，， ，看到过失的参考资料后反而变得疑心了。。。。。。。
更令人担心的是，，，， ，随着滋扰信息数目的增添，，，， ，模子的体现会急剧恶化。。。。。。。从提供1个滋扰文档到提供4个滋扰文档，，，， ，准确率下降了约23%。。。。。。。这种征象被研究职员称为"迷失在中心"效应——当有用信息被大宗无关信息困绕时，，，， ，AI模子就像在信息海洋中迷失了偏向。。。。。。。
准确信息的位置也至关主要。。。。。。。当谜底文档紧邻问题时，，，， ，模子体现最佳；；；；；；；当谜底被夹在滋扰信息中心时，，，， ，体现最差。。。。。。。这个发明对设计适用的AI系统具有主要启示：怎样组织和泛起信息对AI的性能有着决议性影响。。。。。。。
五、揭开AI知识迷雾的意义
这项研究的价值不但在于回覆了"AI怎样知道它们知道什么"这个基础问题，，，， ，更主要的是为未来的AI研究和应用开发了新的蹊径。。。。。。。通过NanoKnow这个"侦探工具包"，，，， ，研究职员首次能够系统地剖析AI知识的泉源和运用机制。。。。。。。
研究发明证实了学术界恒久以来的多项推测：AI的"智能"很洪流平上依赖于训练数据中的频仍模式，，，， ，外部信息能够填补影象的缺乏但无法完全替换内在知识，，，， ，滋扰信息会显著损害AI的判断能力。。。。。。。这些发明为明确目今AI系统的能力界线提供了科学依据。。。。。。。
关于通俗用户而言，，，， ，这些发明也有着现实意义。。。。。。。当我们与AI助手互动时，，，， ，相识它们更容易在哪些类型的问题上蜕化，，，， ，怎样更好地提供配景信息，，，， ，以及怎样阻止信息混淆，，，， ，都将资助我们更有用地使用这些工具。。。。。。。
该研究团队已将NanoKnow的所有组件开源宣布，，，， ，包括问题分类数据、搜索索引和评估代码。。。。。。。这种开放态度将推动更多研究职员探索AI知识机制的神秘，，，， ，也为开发越发可靠、透明的AI系统涤讪了基础。。。。。。。
说究竟，，，， ，这项研究就像为AI的"大脑"装上了一台X光机，，，， ，让我们第一次清晰地看到知识在人工智能中的存储、检索和运用历程。。。。。。。虽然我们距离完全明确AI的智能机制尚有很长的路要走，，，， ，但这种透明度的提升无疑是朝着更可信、更可控的AI未来迈出的主要一步。。。。。。。随着越来越多的开源AI模子和数据集的泛起，，，， ，我们有理由期待在不久的未来，，，， ，AI的"头脑历程"将变得像算数公式一样透明清晰。。。。。。。
Q&A
Q1：NanoKnow是什么工具？？？？？？ ？？
A：NanoKnow是滑铁卢大学开发的AI知识泉源追踪工具，，，， ，能够准确识别AI模子的谜底是来自训练数据中的"影象"照旧外部提供的信息。。。。。。。它将问题分为"见过谜底"和"没见过谜底"两类，，，， ，资助研究职员科学剖析AI的知识获取和运用机制。。。。。。。
Q2：AI模子回覆问题时主要依赖什么？？？？？？ ？？
A：研究发明AI模子主要依赖训练时"见过"的知识往返覆问题。。。。。。。谜底在训练数据中泛起频率越高，，，， ，模子答对的概率越大。。。。。。。纵然提供外部信息，，，， ，模子在"见过"的问题上仍然体现更好，，，， ，说明内在影象和外部信息会相互增强。。。。。。。
Q3：滋扰信息会怎样影响AI模子体现？？？？？？ ？？
A：滋扰信息会显著降低AI模江苏苏港物流生长有限公司型的准确率，，，， ，纵然模子训练时见过准确谜底。。。。。。。随着滋扰信息增添，，，， ，准确率会急剧下降约23%。。。。。。。当准确谜底被滋扰信息困绕在中心位置时，，，， ，模子体现最差，，，， ，这被称为"迷失在中心"效应。。。。。。。