[Paper] 玛丽，吃Cheeseburger的素食者：LLMs 能识别叙事中的不连贯吗？

Source: arXiv - 2512.07777v1

概览

论文 “Mary, the Cheeseburger‑Eating Vegetarian: Do LLMs Recognize Incoherence in Narratives?” 提出了一个看似简单的问题：当今的大型语言模型（LLM）能否辨别故事是否合乎情理？作者通过配对连贯与略显不连贯的短篇叙事，探讨 LLM 的内部表征与其外部响应在发现叙事断裂时是否一致。

主要贡献

• 配对叙事数据集 – 2,000 篇短篇故事，每个连贯版本都有一个最小改动的不连贯对应（例如，角色行为违背已设定的性格）。
• 表征探测 – 证明多种流行 LLM（GPT‑3.5、Llama‑2、Claude）的隐藏状态已编码足够信号，以 >80 % 的准确率区分连贯与不连贯文本。
• 行为评估 – 当被要求对故事连贯性打分时，LLM 往往无法区分两种版本，即使使用了多种提示和链式思考（CoT）推理。
• 细粒度不连贯类型分析 – 发现模型对情境层面的违背（如“沙漠中的雨天”）比对角色性格层面的违背（如“素食者点了芝士汉堡”）更敏感。
• “表征‑行为差距”洞察 – 强调内部信号的强度并不必然转化为可靠的面向用户的判断。

方法论

1. 故事构建 – 人类标注者撰写自成一体的短篇叙事（≈150 词）。每篇故事中仅修改一句话即可生成不连贯版本，其余保持不变。
2. LLM 探测 – 从每篇故事的最后一个 token 提取隐藏层激活。使用少量标记子集训练轻量线性分类器，以预测连贯性。
3. 基于提示的评分 – 同样的 LLM 通过零样本和少样本提示，被要求对“这篇故事有多连贯？”进行 1‑5 评分。变体包括直接提问、多选格式以及链式思考（CoT）提示。
4. 不连贯类型学 – 考察两类违背：情境违背（世界知识矛盾）和角色性格违背（行为不一致）。
5. 评估指标 – 探测分类准确率、模型评分与真实标签的相关系数（Spearman ρ），以及不同不连贯类型之间差异的统计显著性。

结果与发现

要点： 当你查看模型内部时，LLM “知道”有什么不对劲，但在直接询问时很少表达这种认识。它们的判断偏向明显的世界知识冲突，而忽视更微妙的角色一致性破坏。

实际意义

• 内容生成工具 – 自动写作助手（如 AI Dungeon、营销文案生成器）可能产生对模型而言“连贯”的叙事，却隐藏人类读者会注意到的不一致。开发者应加入外部一致性检查（如基于规则的性格追踪），而不是仅依赖 LLM 自身的评分。
• 事实核查与 QA 流程 – 表征‑行为差距表明内部嵌入可用于异常检测（如标记矛盾陈述），即使模型的表面答案模糊。
• 提示工程 – 简单的评分提示不可靠；更丰富的多步推理提示（CoT）虽有提升，却未能弥合差距。构建对话代理的团队应将 LLM 自评视为 软 信号，而非决定性结论。
• 叙事 AI 研究 – 情境与性格违背之间的不对称指向需要更细致的世界模型（例如显式的角色状态表征），才能让 LLM 如人类般理解故事逻辑。

局限性与未来工作

• 叙事规模 – 本研究使用短篇单段落故事；更长、多场景的叙事可能呈现不同的连贯性动态。
• 模型多样性 – 仅考察了少数公开可得的 LLM；更新的指令微调或检索增强模型可能表现不同。
• 人类基准 – 论文未给出人类在评分任务上的直接对比，因而无法明确模型与专家判断的差距。
• 未来方向 – 作者建议整合显式叙事模式、用于角色性格的记忆模块，以及直接惩罚不连贯生成的训练目标。

结论： 虽然 LLM 已在内部嵌入强烈的“不对劲”信号，但在被直接询问时往往未能显现。对于构建 AI 驱动的故事创作或一致性检查工具的开发者而言，这意味着需要配合专门的连贯性验证器，并对模型的自我评估保持审慎。

作者

• Karin de Langis
• Püren Öncel
• Ryan Peters
• Andrew Elfenbein
• Laura Kristen Allen
• Andreas Schramm
• Dongyeop Kang

论文信息

• arXiv ID: 2512.07777v1
• 分类: cs.CL
• 发布日期: 2025 年 12 月 8 日
• PDF: Download PDF