[Paper] 通过贝叶斯不确定性在神经问答中实现伦理AI

Source: arXiv - 2512.17677v1

（请提供需要翻译的正文内容。）

概述

本文研究了贝叶斯不确定性估计如何使神经问答（QA）系统更可信。通过将经典的最大似然训练与贝叶斯后验近似进行比较，作者展示了模型可以在不确定时学会说“我不知道”——这是迈向伦理 AI 部署的关键一步。

关键贡献

• 演示在简单的 MLP 上进行贝叶斯推断，使用 Iris 数据集来说明后验分布如何编码置信度。
• 将贝叶斯方法扩展到大型语言模型（LLMs），通过对冻结的 transformer head 和 LoRA 适配的 transformer 应用拉普拉斯近似。
• 在 CommonsenseQA 上基准测试不确定性校准，侧重于选择性预测而非原始准确率。
• 展示 “我不知道” 响应的实际好处，提升可解释性并在下游应用中实现安全的回避。
• 提供开源实现，可轻松嵌入现有 QA 流程，代码改动最小。

方法论

1. 基线 MLP 实验 – 在 Iris 分类任务上训练一个多层感知机，然后在 MAP 权重附近计算后验的拉普拉斯近似。这会得到参数的高斯分布，从中导出预测方差（不确定性）。
2. 冻结头部的贝叶斯微调 – 固定预训练的 Transformer（例如 BERT），仅在其顶部放置一个贝叶斯线性头。该头的权重使用相同的拉普拉斯技术进行概率处理。
3. LoRA 适配的贝叶斯微调 – 应用低秩适配（LoRA）向 Transformer 注入一小组可训练矩阵。随后对 LoRA 参数给出贝叶斯后验，使不确定性能够在整个适配后的模型中传播。
4. 评估 – 在 CommonsenseQA 基准上运行上述三种设置。研究不追求最高准确率，而是衡量 不确定性校准（预测置信度与实际正确性的匹配程度）和 选择性预测（拒绝低置信度答案的能力）。

所有实验均使用相同的拉普拉斯近似实现，确保比较公平且可复现。

结果与发现

• 校准改进：相较于 MAP 基线，贝叶斯模型始终能够产生更能反映真实正确率的置信分数。
• 选择性预测收益：通过拒绝置信度最低的 10‑20 % 预测，整体准确率提升 4–6 %，同时系统能够优雅地输出 “I don’t know”。
• LoRA‑贝叶斯混合：在 LoRA‑适配的 Transformer 上加入贝叶斯处理，能够实现最佳的权衡——在使用远少于全微调的可训练参数的情况下，达到接近最新水平的性能并具备良好校准的不确定性。
• 可解释性提升：可视化后验方差能够突出模型认为模糊的提问模式（例如罕见的常识关系），为开发者提供可操作的洞察。

实际影响

• 更安全的 AI 助手：在置信度较低时，部署（聊天机器人、帮助台、辅导系统）可以拒绝回答，从而降低幻觉或误导性建议的风险。
• 人机协同工作流：不确定性分数可以触发升级至人工审查员，优化自动化与监督之间的平衡。
• 合规与伦理： “我不知道” 的回退符合新兴的 AI 治理指南，要求对模型置信度保持透明。
• 成本效益的微调：使用 LoRA 结合贝叶斯后验，使团队能够在不需要大规模算力预算的情况下升级现有模型，同时获得不确定性估计。
• 调试与数据收集：高不确定性的示例可以标记为需要额外标注的对象，将标注资源集中在最关键的地方。

限制与未来工作

• 近似质量：拉普拉斯方法假设后验在局部呈高斯分布，这在大型 Transformer 的高度非凸损失空间中可能不足。
• 可扩展性：计算完整协方差矩阵仍然代价高昂；论文依赖对角线或低秩近似，可能遗漏更丰富的不确定性结构。
• 基准测试：实验仅限于 CommonsenseQA；在开放域问答或多模态任务上的更广泛评估将增强论点的说服力。
• 用户研究：对 “我不知道” 响应的伦理影响是推断得出的，而非通过真实用户测量——未来工作可以在实际生产环境中评估信任度和满意度。

总体而言，该研究提供了一个将贝叶斯不确定性集成到神经问答系统的实用路线图，为更负责任和以用户为中心的 AI 产品铺平了道路。

作者

• Riccardo Di Sipio

论文信息

• arXiv ID: 2512.17677v1
• 分类: cs.CL
• 出版日期: 2025年12月19日
• PDF: 下载 PDF