[Paper] 剪枝 AMR：通过权重矩阵分析实现隐式神经表示的高效可视化

Source: arXiv - 2512.02967v1

Overview

本文介绍了 PruningAMR，一种将预训练的隐式神经表示（INR）转化为内存高效、可自适应细化网格的技术。通过分析 INR 的权重矩阵并剪枝冗余组件，该方法自动生成可变分辨率的网格，将细节集中在底层函数变化最大的区域——这对于可视化大规模 4‑D 医学扫描、科学模拟以及其他数据密集型领域至关重要。

Key Contributions

• 基于权重矩阵的特征检测： 使用插值分解（ID）对 INR 的权重矩阵进行剪枝，揭示网络中编码的几何特征。
• 由剪枝网络驱动的自适应网格细化（AMR）： 剪枝后的 INR 引导网格生成过程，仅在需要的地方细化，产生与函数复杂度对齐的非均匀网格。
• 数据无关工作流： 直接在已训练的 INR 上工作，无需访问原始训练样本，适用于黑箱模型。
• 显著的内存节省： 与朴素的均匀离散化相比，实现了数量级的存储减少，同时保持视觉保真度。
• 开源参考实现： 提供代码和脚本，用于在 2‑D 和 4‑D CT 数据集上复现实验。

Methodology

1. 从预训练的 INR 开始（通常是一个将坐标映射到信号值的小型多层感知机）。
2. 对每个权重矩阵应用插值分解（ID）：
   • ID 选择一组列（或行），在用户定义的容差范围内张成列空间。
   • 被选中的列对应“重要”的基函数，其余的被视为冗余并可被剪枝。
3. 构建剪枝网络，仅保留必要的基函数。由于剪枝在每层单独进行，得到的网络体积大幅缩小，但仍能准确近似原始函数。
4. 从剪枝网络中提取特征图，方法是对域的粗略采样计算其雅可比或梯度幅值。特征图中的峰值指示几何复杂度高的区域（边缘、表面、强度快速变化）。
5. 驱动自适应网格细化（AMR）：
   • 从粗糙的规则网格开始。
   • 递归细分特征图值超过阈值的单元，直至达到目标误差或最大深度。
   • 最终网格仅在 INR 底层函数变化剧烈的地方拥有细小单元。
6. 渲染或导出 自适应细化后的网格，以供后续可视化、分析或其他任务（例如有限元仿真）使用。

Results & Findings

• 2‑D 合成函数： 剪枝将网络参数数量减少约 70 %，同时保持 L₂ 误差低于 1 e‑3。AMR 网格的视觉质量可与密度高出 8 倍的均匀网格相媲美。
• 4‑D CT 扫描（时间分辨）： 从一个约 1 M 参数的 4‑D INR 出发，PruningAMR 生成了约 0.12 M 体素的网格，实现 ≈ 85 % 的内存降低，且在临床相关结构（如血管壁）上的相对误差仅为 2 %。
• 速度： 网格生成时间随剪枝基函数数量线性增长，使得在单个 GPU 上对体积最高达 256³ × 64 时间步的数据实现交互式细化成为可能。

总体而言，实验验证了权重矩阵分析能够可靠地识别 INR 中存储高频信息的位置，随后进行的 AMR 能得到紧凑且高保真的离散化。

Practical Implications

• 医学影像流水线： 已经以 INR 形式存储扫描的放射系统现在可以即时生成高分辨率可视化，而无需将完整稠密体积加载到内存中，从而在边缘设备上实现更快的诊断。
• 科学仿真后处理： 输出 INR 的大规模流体或气候模拟可以通过该方法进行可视化或转换为网格，以供后续分析（如涡旋检测），显著降低存储占用。
• 游戏与 AR/VR 内容创作： 使用神经纹理或几何表示的艺术家可以导出自适应网格，将细节保留在观众关注的区域，降低流媒体或移动渲染的带宽需求。
• 模型无关压缩： 由于 PruningAMR 在不依赖训练数据的前提下工作，可集成到模型服务栈中，对任何黑箱 INR 在归档或传输前进行压缩。

Limitations & Future Work

• 对 ID 容差的依赖： 剪枝容差的选择仍属经验性；过于激进的剪枝可能遗漏细微特征，而保守设置则会削弱内存收益。
• 对极深网络的可扩展性： 当前流水线假设网络相对浅（≤ 8 层）。将方法推广至更深的、类似 Transformer 的 INR 需要更复杂的矩阵分解技术。
• 动态图像： 对于函数变化快速的时变 INR，单一静态网格可能很快失效；未来工作可探索基于时间特征跟踪的增量网格更新。
• 定量视觉感知研究： 论文报告了数值误差，但缺乏对临床医生或设计师感知质量的用户研究；评估适配细化可视化的感知效果将进一步支撑“视觉保真度”的主张。

PruningAMR 为从紧凑的神经表示到自适应、内存感知的可视化提供了实用路径——弥合了 INR 的优雅与开发者在真实世界可视化工具中对具体需求之间的鸿沟。

Authors

• Jennifer Zvonek
• Andrew Gillette

Paper Information

• arXiv ID: 2512.02967v1
• Categories: cs.LG, math.NA
• Published: December 2, 2025
• PDF: Download PDF