【论文】NanoKnow：如何了解你的语言模型知道什么

Source: arXiv - 2602.20122v1

概述

本文介绍了 NanoKnow，一个新基准，使研究人员和工程师能够区分大型语言模型（LLMs）实际上“知道”的内容是来自其训练数据，还是可以从外部来源检索到的。通过利用完全开源的 nanochat 系列小型 LLM——其预训练语料库公开可得——作者能够将每个问题标记为“已见”（答案出现在训练集）或“未见”。这使得能够研究参数知识（存储在模型权重中）与检索证据之间的相互作用，之前对闭源模型来说是无法实现的。

关键贡献

• NanoKnow 数据集：将 Natural Questions 和 SQuAD 问题根据答案是否出现在 nanochat 的预训练数据中，划分为 seen（已见）和 unseen（未见）两类。
• 透明评估框架：能够对任何可以在有或没有检索上下文的情况下进行查询的模型，清晰地区分参数化知识与外部证据。
• 实证洞察：对八个 nanochat 检查点进行系统实验，揭示答案频率、外部证据以及无关上下文如何影响闭卷（closed‑book）和开卷（open‑book）性能。
• 开源发布：所有数据、脚本和评估代码均已在 GitHub 上公开，鼓励可复现性和社区扩展。

方法论

1. 数据划分 – 作者扫描 nanochat 的预训练语料库，检查每个答案字符串是否出现。答案被找到的问题归入 Seen 划分；其余的归入 Unseen。
2. 模型检查点 – 评估 nanochat 的八个检查点（大小和训练步数各不相同）。
3. 评估模式
   • Closed‑book：模型在没有外部上下文的情况下回答问题。
   • Open‑book：模型在额外输入中提供检索到的段落（相关的或故意噪声的）。
4. 指标 – 按划分报告 Exact‑match 和 F1 分数，并分析答案频率、段落相关性和段落位置的影响。

该流水线故意保持简洁：检索段落（或不检索），将其前置到提示中，让模型生成答案。此设计将关注点放在知识来源上，而不是复杂的检索或提示技巧。

结果与发现

总体而言，实验表明大型语言模型并非纯粹的“知识库”——它们依赖记忆的事实与即时检索的混合，两者都可能被噪声输入破坏。

实际意义

• 更好的调试工具 – 开发者可以使用 NanoKnow‑style 拆分来确定模型错误是源于缺少训练数据还是检索不佳，从而指导有针对性的数据增强。
• 有针对性的提示 – 了解早期无关上下文会降低性能，建议将最相关的证据放在提示的末尾或使用显式分隔符。
• 混合系统设计 – 参数化知识与外部知识的互补性鼓励构建将紧凑、高容量的 LLM 与轻量检索组件相结合的架构，而不是单独依赖其中之一。
• 以数据为中心的开发 – 对于特定领域的应用（例如医疗或法律助理），测量预训练集合中答案出现的频率可以帮助估计需要多少额外的微调或精选数据。
• 评估标准 – NanoKnow 为“知识感知” LLM 提供了可复现的基准，可能成为未来开源模型的标准测试。

限制与未来工作

• 规模不匹配 – NanoKnow 基于小型 nanochat 模型构建；其结果可能无法直接迁移到参数量达数十亿的语言模型，因为记忆动态不同。
• 二元已见/未见标签 – 当前划分将答案字符串的任何出现都视为“已见”，忽略了改写或上下文理解等细微差别。
• 检索质量 – 实验使用了简单的检索流水线；更复杂的检索器可能会改变参数化知识与外部知识之间的平衡。
• 未来方向 作者提出的包括将基准扩展到更大的模型、加入分级的“知识难度”评分，以及探索显式对齐参数化知识与检索知识的训练目标。

作者

• Lingwei Gu
• Nour Jedidi
• Jimmy Lin

论文信息

• arXiv ID: 2602.20122v1
• 分类: cs.CL, cs.AI, cs.IR, cs.LG
• 发表时间: 2026年2月23日
• PDF: 下载 PDF