[论文] 监督式脉冲一致性依赖可塑性用于脉冲神经网络的快速局部学习

Source: arXiv - 2601.08526v1

（未提供需要翻译的正文内容。如需翻译，请提供具体的文本。）

Overview

本文提出了Supervised Spike Agreement‑Dependent Plasticity (S‑SADP)，一种用于脉冲神经网络（SNN）的新学习规则，它用群体层面的协议度量（例如 Cohen’s kappa）取代了经典的成对脉冲时序更新（STDP）。通过这种方式，作者实现了快速、完全局部的权重更新，能够在监督设置下工作，而无需采用反向传播（back‑propagation）、代理梯度（surrogate gradients）或教师强制（teacher‑forcing）等技巧。该方法在混合 CNN‑SNN 流水线中进行演示，并在标准视觉基准上展示出竞争性的准确率，同时保持与神经形态硬件约束的兼容性。

关键贡献

• SADP 的监督扩展 – 引入一种基于标签、基于一致性的可塑性规则，保持严格的突触局部性。
• 线性时间复杂度 – 更新仅依赖于前后突触群体的当前脉冲计数，避免了成对 STDP 的二次成本。
• 硬件友好设计 – 采用二进制脉冲事件和简单统计，适用于新兴的神经形态芯片。
• 混合 CNN‑SNN 架构 – 将传统卷积编码器（生成紧凑特征图）与下游通过 S‑SADP 训练的 SNN 相结合。
• 广泛的实证验证 – 在 MNIST、Fashion‑MNIST、CIFAR‑10 以及多个生物医学图像分类任务上展示出竞争性表现，收敛快速且对超参数变化具有鲁棒性。
• 兼容设备层级动态 – 证明该规则可通过真实的突触更新机制实现（例如基于电导或忆阻器的设备）。

方法论

1. Spike Agreement Metric – 与其测量两个脉冲之间的精确时差，规则计算在学习窗口内前突触神经元群发出的脉冲总体与后突触神经元脉冲之间的协议得分。Cohen’s kappa（或类似统计量）用于量化两条脉冲列在超出随机水平后的“协议”程度。

2. Supervised Signal – 将目标标签编码为期望的脉冲模式（例如，一热泊松脉冲列）。实际输出脉冲与目标模式之间的协议程度驱动权重更新。

3. Local Weight Update – 对每个突触 (w_{ij})：
   [ \Delta w_{ij} = \eta , \big( \kappa_{ij}^{\text{output}} - \kappa_{ij}^{\text{target}} \big) ]
   其中 (\kappa_{ij}) 是由神经元 (i)（前）和神经元 (j)（后）的脉冲计数计算得到的协议得分。该更新仅使用局部可得的脉冲计数，保持生物学可行性。

4. Hybrid Pipeline –

   • CNN encoder 处理原始图像并输出低维特征图。
   • Poisson conversion 将每个特征值转换为脉冲列（率编码）。
   • S‑SADP‑trained SNN 接收这些脉冲，学习将其映射到目标类别模式，最终通过简单的读出（例如，每个输出神经元的脉冲计数）给出决策。

5. Training Loop – 不进行时间反向传播。每个训练样本触发一次前向传播、协议计算以及对每条连接的单次突触更新，使得计算复杂度随突触数量呈线性增长。

结果与发现

• 准确率：在所有基准上均在最先进的代理梯度 SNN 之内 0.5 %。
• 速度：收敛速度比传统 STDP 快 2–3 倍，因为更新是对整个群体而非单个脉冲对进行聚合。
• 稳定性：在宽范围学习率 (10⁻⁴–10⁻²) 和 kappa 阈值下性能保持稳定，表明对超参数的敏感度低。
• 硬件对齐：使用基于电导的突触模型进行的仿真显示几乎没有退化，证实该规则可以映射到忆阻或 CMOS 神经形态器件上。

Practical Implications

• Edge AI & Low‑Power Devices – 该规则的局部性和线性复杂度使其非常适合在内存带宽和能耗受限的芯片上进行学习。
• Fast On‑Device Adaptation – 由于权重更新只需一次前向传播，设备能够实时适应新数据（例如用户特定的手势），无需耗时的反向传播循环。
• Simplified Toolchains – 开发者可以使用标准深度学习框架（CNN 编码器）训练 SNN，然后切换到轻量级的脉冲一致性模块来处理脉冲部分，避免自定义梯度实现。
• Robustness to Timing Noise – 由于该规则不依赖精确的脉冲时序，它能够容忍抖动和硬件变异，这在模拟神经形态芯片中是常见问题。
• Potential for Continual Learning – 一致性度量可以在运行时为新类别重新计算，从而实现增量更新而不会出现灾难性遗忘。

限制与未来工作

• 速率编码依赖 – 当前实现依赖于CNN特征的泊松速率编码；探索时间编码方案可能进一步提升效率。
• 对极深SNN的可扩展性 – 实验仅限于浅层脉冲层；将S‑SADP扩展到更深的层次化SNN仍是一个未解决的挑战。
• 理论保证 – 尽管实证结果强劲，但关于基于一致性的可塑性的正式收敛分析仍然缺失。
• 硬件原型 – 论文在仿真中验证了该规则；未来在神经形态芯片上的硬件原型将巩固其实际可行性。

总体而言，监督式SADP在生物启发学习与现代AI硬件的实际需求之间提供了有力的桥梁，为快速、局部且硬件友好的脉冲神经网络训练开辟了道路。

作者

• Gouri Lakshmi S
• Athira Chandrasekharan
• Harshit Kumar
• Muhammed Sahad E
• Bikas C Das
• Saptarshi Bej

论文信息

• arXiv ID: 2601.08526v1
• 分类: cs.NE, cs.LG
• 出版日期: 2026年1月13日
• PDF: 下载 PDF