[Paper] X-SYS: 인터랙티브 설명 시스템을 위한 레퍼런스 아키텍처

Source: arXiv - 2602.12748v1

개요

이 논문은 X‑SYS를 소개한다. 이는 최첨단 XAI 알고리즘과 사용자에게 인터랙티브한 설명을 제공하기 위해 필요한 실제 시스템 사이의 격차를 메우는 레퍼런스 아키텍처이다. 설명 가능성을 정보‑시스템 문제로 다룸으로써, 저자들은 개발자가 확장 가능하고, 추적 가능하며, 반응성이 뛰어나고, 적응 가능한 설명 서비스를 구축할 수 있게 하는 구체적인 청사진을 제공한다—이는 대부분의 학술 XAI 프로토타입에서 부족했던 부분이다.

주요 기여

• STAR quality model – 확장성, 추적성, 응답성, 적응성이라는 네 가지 비기능 요구사항을 정의하며, 모든 인터랙티브 설명 시스템이 이를 만족해야 함을 제시합니다.
• Five‑component decomposition – XUI 서비스, 설명 서비스, 모델 서비스, 데이터 서비스, 그리고 오케스트레이션 + 거버넌스 레이어로 관심사를 분리합니다.
• Interaction‑to‑Capability mapping – UI 상호작용 패턴(예: “왜 이 예측인가?” 또는 “이 특성이 바뀌면 어떻게 될까?”)을 시스템의 기본 기능과 체계적으로 연결하여, 백엔드 로직을 깨뜨리지 않고 UI를 진화시킬 수 있게 합니다.
• Contract‑based service boundaries – 컴포넌트 간 API를 형식화하여 독립적인 개발, 테스트, 버전 관리를 가능하게 합니다.
• SemanticLens prototype – 비전‑언어 모델에서 의미 검색 및 활성화 조정을 구현한 구체적인 프로토타입으로, 아키텍처의 주장(오프라인/온라인 분리, 지속 상태 등)을 검증합니다.

방법론

1. Problem framing – 저자들은 기존 XAI 도구들을 조사하고, 프로덕션에서 실패하는 이유(긴밀한 결합, 추적성 부족, 높은 지연 시간)를 정확히 짚어낸다.
2. Design of X‑SYS – 실제 운영 제약으로부터 STAR 속성을 도출한 뒤, 각 모듈이 명확한 계약(REST‑like 또는 gRPC)을 노출하도록 모듈식 스택을 설계한다.
3. Mapping interaction patterns – 일반적인 XAI UI 행동(특성 중요도 조회, 반사실 생성, 모델 디버깅)을 카탈로그화하고, 필요한 서비스와 연결한다(예: saliency map을 위한 Explanation Service, 버전 관리된 추론을 위한 Model Service).
4. Prototype implementation – SemanticLens는 비전‑언어 모델(예: CLIP) 위에 구축된다. 오프라인 배치 작업으로 임베딩을 사전 계산하고(확장 가능), 온라인 마이크로서비스로 실시간 스티어링을 제공하며(반응성), 모든 사용자 질의와 모델 상태를 기록하는 영구 저장소를 사용한다(추적 가능).
5. Evaluation – 프로토타입을 현실적인 워크로드에 적용해 지연 시간, 확장성, 컴포넌트 교체 용이성(적응성)을 측정한다.

결과 및 발견

이 결과는 X‑SYS 분해가 인터랙티브 설명 지연 시간을 낮게 유지하면서도 무거운 오프라인 계산과 엄격한 거버넌스를 지원할 수 있음을 보여줍니다.

Practical Implications

• Faster time‑to‑market for XAI features – 팀은 기존 설명 알고리즘을 독립 서비스로 플러그인하여 무거운 단일체(monolithic) 재작성 필요성을 줄일 수 있습니다.
• Compliance‑ready audit trails – 추적 가능성 레이어는 전체 의사결정‑설명 연관성을 지속함으로써 규제 요구사항(예: GDPR “설명받을 권리”)을 충족합니다.
• Dynamic model upgrades – UI 컴포넌트가 안정적인 Explanation Service API와 통신하므로 데이터 과학자는 프런트엔드 기능을 깨뜨리지 않고 최신 모델을 배포할 수 있습니다.
• Scalable cloud deployment – 오프라인/온라인 분할이 서버리스 배치 작업(예: AWS Batch)과 저지연 컨테이너(예: AWS Fargate)에 자연스럽게 매핑되어 현대 클라우드‑네이티브 파이프라인에 적합합니다.
• Reusable building blocks – 계약 정의는 팀 간에 공유되거나 오픈소스로 공개될 수 있어 XAI 마이크로‑서비스 시장을 촉진합니다.

제한 사항 및 향후 작업

• 도메인 특수성 – 프로토타입은 비전‑언어 모델에 초점을 맞추고 있어, X‑SYS를 표형 데이터나 시계열 도메인에 적용하려면 추가적인 서비스 유형이 필요할 수 있습니다.
• 성능 트레이드‑오프 – 단순한 스티어링 쿼리에서는 지연 시간이 낮지만, 보다 복잡한 반사실 생성은 아직 완전히 벤치마크되지 않은 높은 계산 비용을 초래합니다.
• 거버넌스 복잡성 – 오케스트레이션 레이어는 비교적 단순한 정책 모델을 전제로 하고 있으며, 다중 관할권 데이터 거주와 같은 풍부한 컴플라이언스 워크플로우는 추가적인 구체화가 필요합니다.
• 사용자 연구 – 논문은 기술적 지표를 검증하지만 최종 사용자를 대상으로 한 체계적인 사용성 연구는 포함하지 않았습니다. 향후 작업에서는 STAR 속성이 인지된 설명 품질에 어떻게 연결되는지 평가할 수 있습니다.

X‑SYS는 설명 가능한 AI에 대한 실용적이고 시스템‑엔지니어링‑우선적인 관점을 제공하여, 개발자에게 연구‑급 XAI 방법을 프로덕션‑레디, 사용자‑중심 서비스로 전환하기 위한 명확한 로드맵을 제시합니다.

저자

• Tobias Labarta
• Nhi Hoang
• Maximilian Dreyer
• Jim Berend
• Oleg Hein
• Jackie Ma
• Wojciech Samek
• Sebastian Lapuschkin

논문 정보

• arXiv ID: 2602.12748v1
• Categories: cs.AI, cs.HC, cs.SE
• Published: 2026년 2월 13일
• PDF: Download PDF