[Paper] 混合时序-8位脉冲编码用于脉冲神经网络代理训练

Source: arXiv - 2512.03879v1

概述

本文介绍了 Hybrid Temporal‑8‑Bit Spike Coding，这是一种用于对使用代理梯度训练的脉冲神经网络（SNN）进行视觉数据编码的新方法。通过将经典的时间脉冲时序与图像的 8‑bit 平面分解相结合，作者在视觉基准测试上实现了与现有的速率编码和混合编码方案相媲美——甚至超越——的性能，同时保留了 SNN 的低功耗优势。

关键贡献

• Hybrid Temporal‑Bit Encoding: 首个将每像素 8 位平面信息与精确脉冲时序融合的方法，创建更丰富的脉冲表示。
• Surrogate‑Gradient Friendly: 设计上与现代 surrogate 反向传播流水线无缝兼容，无需自定义学习规则。
• Comprehensive Benchmarking: 在多个标准计算机视觉数据集（如 CIFAR‑10、CIFAR‑100、ImageNet‑subset）上进行实证评估，显示出竞争性的准确率和降低的延迟。
• Energy‑Efficiency Analysis: 证明新编码方案在神经形态硬件模拟器上保持了 SNN 的低能耗特性。
• Open‑Source Implementation: 作者发布代码和预训练模型，促进可重复性和快速采纳。

方法论

1. 位平面分解：将每幅输入图像拆分为 8 个二进制平面（从最高位到最低位）。
2. 时间映射：对每个位平面，在仿真步的不同时间窗口内生成脉冲。高位比特更早触发，低位比特更晚触发，以时间梯度的方式编码强度。
3. 混合脉冲流：将这八条时间错开的流拼接，生成每个像素的单一脉冲序列，既携带幅度信息（通过位平面），又携带时间信息。
4. 代理训练：脉冲序列输入传统的前馈 SNN。反向传播时，使用平滑的代理梯度（如分段线性或指数函数）近似不可微的脉冲函数，从而使标准的 SGD/Adam 优化器能够更新权重。
5. 评估流程：作者将该方法与纯率编码、纯时间编码以及之前的混合率‑时间（位平面 + 率）基线进行比较，测量分类准确率、脉冲计数和模拟能耗。

结果与发现

• 脉冲效率：相较于混合率‑位基线，混合时序‑位编码通过低阶位的时序稀疏性将总脉冲数降低约 12 %。
• 延迟：由于高阶位提前触发，网络常常在所有位处理完之前就能给出正确预测，平均推理延迟降低约 15 %。
• 能量仿真：使用标准神经形态能量模型，所提方法比最佳先前混合方案每次推理额外节省约 10 % 能量。

实际影响

• Neuromorphic Deployments: 针对低功耗边缘设备（例如 Loihi、BrainChip）的开发者可以采用此编码，在不牺牲能耗预算的前提下提升额外的准确率。
• Compatibility with Existing Toolchains: 由于该方法仅修改输入编码，可直接接入流行的 SNN 框架（BindsNET、Norse、SpykeTorch），无需重写代码库。
• Early‑Exit Inference: 位的时间顺序使得“提前退出”策略成为可能——如果在处理前几位平面后已达到置信阈值，则可以跳过剩余位，从而进一步降低计算量。
• Hybrid AI Systems: 该方法可与传统 CNN 前端结合（例如使用 CNN 提取特征，然后通过混合时间‑位脉冲传递），用于混合精度流水线。

限制与未来工作

• 位平面开销：虽然 8 位在精度与效率之间取得了良好平衡，但若扩展到更高精度的输入（例如 12 位传感器），会导致脉冲计数增加，可能削弱能耗优势。
• 硬件时序约束：实际的神经形态芯片必须支持细粒度的时间窗口；本文的仿真假设了理想化的时序粒度。
• 跨视觉的泛化能力：实验仅限于图像分类；将该编码应用于基于事件的数据（例如 DVS）或序列任务仍未探索。
• 未来方向：作者提出自适应位平面调度（动态跳过低影响位）以及将该方案扩展到多模态输入（音视频）是有前景的研究方向。

作者

• Luu Trong Nhan
• Luu Trung Duong
• Pham Ngoc Nam
• Truong Cong Thang

论文信息

• arXiv ID: 2512.03879v1
• 分类: cs.NE
• 发表时间: 2025年12月3日
• PDF: 下载 PDF