[论文] Evidential Trust-Aware Model Personalization 在 Decentralized Federated Learning 中用于 Wearable IoT

发布: (2025年12月22日 GMT+8 16:26)
7 min read
原文: arXiv

Source: arXiv - 2512.19131v1

概述

本文解决了可穿戴物联网设备中去中心化联邦学习(DFL)的一个核心问题:如何让每个设备在训练适合自身数据的模型的同时,仍能从拥有 兼容 数据分布的其他设备的协作中受益。作者提出了 Murmura,一个基于信任感知的个性化框架,利用证据深度学习来衡量认知不确定性,并在模型聚合过程中决定信任哪些同行。

关键贡献

  • 证据信任度量: 引入一种基于 Dirichlet 的证据不确定性度量,直接量化对等方的兼容性,将不确定性转化为信任分数。
  • 选择性聚合协议: 提出一种信任感知的聚合规则,仅合并那些在节点本地验证集上表现出低认知不确定性的对等模型的更新。
  • 自适应阈值: 实现对信任分数的动态阈值,使系统能够自动适应不同程度的数据异质性。
  • 全面评估: 在三个真实世界的可穿戴数据集(UCI HAR、PAMAP2、PPG‑DaLiA)上展示,Murmura 将 IID 与非 IID 设置之间的性能差距从 19.3 % 降至 0.9 %,将收敛速度提升 7.4×,并在超参数变化下保持稳定。
  • 开源原型: 提供可嵌入现有 DFL 流水线(如 PySyft、Flower)的参考实现,以便快速实验。

Methodology

  1. Evidential Deep Models: 每个设备训练一个神经网络,输出 Dirichlet 参数而非普通的类别概率。通过这些参数,模型能够区分 aleatoric(数据噪声)和 epistemic(知识)不确定性。
  2. Cross‑Evaluation: 在本地训练轮结束后,设备在本地保留的一小块留出验证集上评估收到的同行模型。每个同行预测的 epistemic 不确定性即作为 compatibility score
  3. Trust‑Aware Aggregation:
    • 对分数进行归一化,并与自适应阈值比较。
    • 仅有分数低于阈值的模型会参与模型参数的加权平均。
    • 加权因子与不确定性的倒数成正比,使节点“更信任”的同行拥有更大影响力。
  4. Personalization Loop: 聚合后的模型在本地进行微调,保留设备特有的细微差别,同时仍受益于兼容的同行。该循环在每个通信轮次中重复。

整个流程完全去中心化——无需中央服务器来计算信任分数或协调聚合。

结果与发现

数据集IID → 非 IID 差距(基线)Murmura 差距收敛加速
UCI HAR19.3 %0.9 %7.4×
PAMAP217.8 %1.2 %6.9×
PPG‑DaLiA20.1 %1.0 %7.2×
  • 准确性稳定性: Murmura 的性能在宽范围的学习率、批量大小和通信轮数下保持在 ±0.3 % 以内。
  • 对恶意节点的鲁棒性: 在模拟攻击中,一部分设备注入随机标签,仅导致微小下降(<0.5 %),因为高不确定性会将其标记为不可信。
  • 资源开销: 计算 Dirichlet 参数额外增加约 5 % 的 FLOPs,并带来适度的内存增长(≈2 MB 对于典型的 CNN),对现代可穿戴设备而言是可接受的。

实际意义

  • Edge‑First AI: 开发健康监测或活动识别应用的开发者现在可以部署真正个性化的模型,这些模型仍然能够在不使用云服务器的情况下从整体中学习,既保护隐私又降低延迟。
  • Plug‑and‑Play Trust Layer: Murmura 的可信聚合可以直接嵌入现有的联邦学习库,为开发者提供现成的机制来处理非 IID 数据——这是实际部署中常见的痛点。
  • Fault Tolerance: 由于系统会自动丢弃不兼容或受损的节点,网络分区或设备故障对整体模型质量的影响最小。
  • Regulatory Compliance: 具备内置可信度指标的去中心化训练非常符合数据本地化法规(如 GDPR、HIPAA),因为原始数据永不离开设备,仅共享可信的模型更新。

限制与未来工作

  • 验证集的可扩展性: 每个设备必须保留本地验证集;对于超低内存的可穿戴设备,这可能成为瓶颈。
  • 诚实不确定性报告的假设: 框架信任报告的 Dirichlet 参数;成熟的对手可能会操纵不确定性估计。
  • 仅限分类任务: 当前基于 Dirichlet 的证据方法针对类别输出进行优化;将其扩展到回归或多任务场景仍是未解决的问题。
  • 未来方向: 作者建议探索轻量级不确定性估计器(例如 Monte‑Carlo dropout)以更紧凑的资源预算,集成信任分数的加密验证,并在大规模异构物联网部署(智能家居、工业传感器网络)中测试 Murmura。

作者

  • Murtaza Rangwala
  • Richard O. Sinnott
  • Rajkumar Buyya

论文信息

  • arXiv ID: 2512.19131v1
  • Categories: cs.DC, cs.LG
  • Published: 2025年12月22日
  • PDF: 下载 PDF
Back to Blog

相关文章

阅读更多 »