[Paper] X-SYS：交互式解释系统的参考架构

发布: 3天前 (2026年2月13日 GMT+8 17:24)

7 分钟阅读

原文: arXiv

Source: arXiv - 2602.12748v1

概述

本文提出了 X‑SYS，一种参考架构，弥合了前沿 XAI 算法与用于向用户提供交互式解释的真实系统之间的鸿沟。通过将可解释性视为信息系统问题，作者提供了一个具体的蓝图，使开发者能够构建可扩展、可追踪、响应迅速且可适应的解释服务——这是大多数学术 XAI 原型所缺乏的。

STAR 质量模型 – 定义了四个非功能性需求（可扩展性、可追溯性、响应性、适应性），任何交互式解释系统都应满足。
五组件分解 – 将关注点划分为 XUI 服务、解释服务、模型服务、数据服务，以及编排 + 治理层。
交互‑到‑能力映射 – 一种系统化方式，将 UI 交互模式（例如 “为什么这个预测？” 或 “如果该特征变化会怎样？”）链接到底层系统能力，从而实现 UI 演进而不破坏后端逻辑。
基于契约的服务边界 – 正式化组件之间的 API，允许独立开发、测试和版本管理。
SemanticLens 原型 – 一个针对视觉‑语言模型的语义搜索和激活引导的具体实现，验证了架构的主张（离线/在线拆分、持久状态等）。

Problem framing – 作者首先调查现有的 XAI 工具，并指出它们在生产环境中失败的原因（紧耦合、缺乏可追溯性、延迟高）。
Design of X‑SYS – 他们从真实的运营约束中提炼出 STAR 属性，并构建一个模块化堆栈，使每个模块都公开一个明确定义的契约（类似 REST 或 gRPC）。
Mapping interaction patterns – 将常见的 XAI UI 操作（查询特征重要性、生成反事实、模型调试）进行归类，并关联到所需的服务（例如，用于显著性图的 Explanation Service，用于版本化推理的 Model Service）。
Prototype implementation – SemanticLens 基于视觉语言模型（例如 CLIP）构建。它使用离线批处理作业预计算嵌入（可扩展），在线微服务进行实时引导（响应迅速），以及持久化存储记录每个用户查询和模型状态（可追溯）。
Evaluation – 对原型进行真实工作负载的测试，以衡量延迟、可扩展性以及组件替换的便利性（适应性）。

指标	观察
Latency (interactive query)	在线引导的延迟低于 200 ms，符合典型 UI 响应阈值。
Scalability (batch pre‑compute)	添加工作节点时呈线性加速；能够在数小时内处理数百万图像‑文本对。
Traceability	每个解释请求都记录模型版本、数据快照和 UI 上下文，实现完整审计追踪。
Adaptability	替换底层模型（例如从 CLIP‑ViT‑B/32 换到更大的 ViT‑L/14）只需更新 Model Service 合约；UI 与编排保持不变。

这些结果表明，X‑SYS 的分解方式能够在保持交互式解释延迟低的同时，支持大量离线计算和严格的治理。

更快的 XAI 功能上市时间 – 团队可以将现有解释算法作为独立服务插入，减少对笨重单体重写的需求。
合规审计追踪 – 可追溯性层通过持久化完整的决策‑解释血缘满足监管要求（例如 GDPR “解释权”）。
动态模型升级 – 由于 UI 组件与稳定的 Explanation Service API 交互，数据科学家可以在不破坏前端功能的情况下推出新模型。
可扩展的云部署 – 离线/在线拆分自然映射到无服务器批处理作业（如 AWS Batch）和低延迟容器（如 AWS Fargate），契合现代云原生流水线。
可复用的构建块 – 合约定义可以在团队之间共享，甚至开源，促进 XAI 微服务市场的形成。

X‑SYS 提供了一种务实、系统工程优先的可解释 AI 视角，为开发者提供了将研究级 XAI 方法转化为生产就绪、以用户为中心的服务的清晰路线图。