[Paper] MEG-XL：数据高效的 Brain-to-Text 通过长上下文预训练

Source: arXiv - 2602.02494v1

概述

论文 MEG‑XL 解决了针对重度运动障碍患者的脑‑文本系统中的一个核心瓶颈：训练数据的稀缺。通过在更长的脑磁图（MEG）记录上进行预训练——每个样本最长可达 2.5 分钟——作者展示了该模型能够在受试者之间学习更丰富的统计先验，并显著降低实现准确词语解码所需的标注数据量。

关键贡献

• 长上下文预训练： 引入一种预训练方案，使用比以往工作长 5–300 倍的 MEG 上下文（约 2.5 分钟 ≈ 191 k 令牌）。
• 数据高效微调： 证明 MEG‑XL 只需 1 小时 的微调数据即可达到监督水平的性能，而传统模型需要约 50 小时。
• 转移学习的实证： 表明从长上下文中学习到的表征在下游词解码任务上的迁移效果优于短上下文基线。
• 开源发布： 提供代码、预训练权重和详细说明，支持可复现性和社区扩展。

方法论

1. 数据集与预处理 – 作者收集了多位参与者在聆听自然语音时的 MEG 记录。每个样本包括一个连续的 2.5 分钟神经活动窗口，并与相应的语音转录对齐。
2. 模型架构 – MEG‑XL 基于针对时间序列数据改编的 Transformer 编码器（例如使用 1‑D 卷积进行初始嵌入）。模型的训练目标是预测转录中的下一个 token，给定之前的神经信号，从而在脑数据上实现类似语言模型的学习。
3. 长上下文预训练 – 与典型的 2‑5 秒窗口不同，模型使用完整的 2.5 分钟上下文，使其能够捕捉缓慢变化的神经动态、注意力转移以及更高层次的语言结构。
4. 词语解码的微调 – 预训练后，附加一个轻量级分类头，将学习到的表征映射到目标词汇表。该分类头在一个小规模标注子集上进行训练（最少仅需 1 小时的记录）。
5. 基线与评估 – 将本方法与使用短上下文的最先进脑基础模型进行比较，同时也与在相同微调数据上从头训练的全监督模型进行对比。

结果与发现

• 数据效率： 使用仅 1 小时的标记数据，MEG‑XL 的表现与需要 50 小时监督的模型相当。
• 表示质量： 探索实验表明，长上下文预训练产生的嵌入在编码更高级语言线索（句法、语义）方面比短上下文模型更稳健。
• 跨受试者的泛化能力： 由于预训练聚合了来自众多参与者的数据，模型在对新受试者进行最小适配时也能良好迁移。

实际意义

• 更快部署辅助通信设备： 临床可以在数小时内为新患者校准脑‑文本系统，而不是数天或数周，从而降低实际使用的门槛。
• 降低数据收集负担： 研究人员和医院可以避免冗长的记录会话，这些会话成本高、让患者感到疲惫，并且容易出现运动伪影。
• 可扩展的神经技术基础模型： 开源的 MEG‑XL 可作为句子重建、意图检测或多模态脑机接口（BCI）等下游任务的起点。
• 边缘推理的潜力： 由于微调头部轻量，最终模型可以压缩用于设备端推理，从而实现便携、低延迟的通信辅助工具。

局限性与未来工作

• MEG特异性： 该方法已在MEG数据上展示；扩展到其他模态（EEG、fNIRS）可能需要架构调整和额外的预训练。
• 长上下文预训练的计算成本： 在2.5分钟窗口上训练需要更多GPU显存和更长的训练时间，这可能对小型实验室构成障碍。
• 词汇范围： 当前的单词解码任务使用有限词表；扩展到开放词汇或句子级生成仍是一个未解决的挑战。
• 实时约束： 虽然微调在数据上高效，但对连续实时解码的推理延迟尚未完全评估。

作者邀请社区在MEG‑XL基础上进行构建，探索跨模态预训练，并推动真正的对话式脑-到-文本接口。

作者

• Dulhan Jayalath
• Oiwi Parker Jones

论文信息

• arXiv ID: 2602.02494v1
• Categories: cs.LG, q-bio.NC
• Published: 2026年2月2日
• PDF: 下载 PDF