[Paper] 확장 가능한 Explainability-as-a-Service (XaaS) for Edge AI 시스템

Source: arXiv - 2602.04120v1

개요

이 논문은 Explainability‑as‑a‑Service (XaaS) 라는 새로운 아키텍처를 소개합니다. XaaS는 AI 설명을 각 모델에 하드와이어드된 부분이 아니라 독립적인 시스템 서비스로 취급합니다. 추론과 설명 생성 과정을 분리함으로써, XaaS는 이기종 엣지 및 IoT 디바이스에서도 고품질·저지연 설명을 제공하는 것을 가능하게 합니다—이는 기존의 “결합된” XAI 접근 방식이 어려워하는 부분입니다.

Key Contributions

• 분리된 XAI 서비스 – 추론과 설명을 분리하여, 필요에 따라 설명을 요청하고, 캐시하며, 검증할 수 있도록 함.
• 분산 설명 캐시 – 의미적 유사성을 활용해 기존 설명을 검색함으로써, 장치 간 중복 계산을 줄임.
• 경량 검증 프로토콜 – 캐시된 설명이든 새로 생성된 설명이든 기본 모델의 추론을 충실히 반영함을 보장함.
• 적응형 설명 엔진 – 장치 자원 및 사용자 요구에 따라 가장 적합한 설명 방법을 동적으로 선택함.
• 실제 적용 검증 – 제조 품질 관리, 자율 주행 차량 인식, 의료 진단에 적용하여 설명 품질을 유지하면서 약 38 % 지연 시간 감소를 달성함.

Methodology

1. Service‑Oriented Architecture – 엣지 노드는 얇은 추론 클라이언트를 실행하여 설명 요청을 중앙 XaaS 레이어로 전달합니다.
2. Semantic Similarity Retrieval – 설명이 필요할 때, XaaS는 먼저 분산 캐시를 확인합니다. 의미적으로 유사한 입력에 이미 설명이 존재한다면 이를 재사용하여 비용이 많이 드는 XAI 알고리즘을 다시 실행하지 않습니다.
3. Verification Protocol – 경량 체크섬 방식 검사를 통해 캐시된 설명이 현재 모델 파라미터와 여전히 일치하는지 검증하여 신뢰성을 보장합니다.
4. Adaptive Engine – CPU, 메모리, 지연 시간 예산을 기반으로 엔진은 XAI 기법(예: SHAP, LIME, Grad‑CAM) 툴박스 중에서 선택하여 디바이스 제약에 맞는 설명을 생성합니다.
5. Evaluation – 저자들은 세 가지 엣지‑AI 시나리오에 시스템을 배포하고, 지연 시간, 대역폭, 설명 충실도를 기존 결합 XAI 구현과 비교하여 측정했습니다.

결과 및 발견

* 충실도는 설명과 실제 모델 추론 간의 일치도를 측정한 것입니다.

결과는 XaaS가 추론‑및‑설명 지연을 일관되게 약 3분의 1 수준으로 줄이며, 설명 품질을 최고 수준의 결합 방식에 비해 몇 퍼센트 포인트 안에서 유지한다는 것을 보여줍니다. 캐시는 특히 반복적인 엣지 워크로드(예: 유사한 센서 프레임)에서 중복 작업을 크게 감소시킵니다.

Practical Implications

• Scalable Edge Deployments – 기업은 각 노드가 무거운 XAI 알고리즘을 로컬에서 실행해야 한다는 걱정 없이 수천 개의 센서나 엣지 게이트웨이에 AI 모델을 배포할 수 있습니다.
• Resource‑Constrained Devices – 저전력 마이크로컨트롤러도 설명을 얻을 수 있는데, 무거운 연산은 XaaS 레이어로 오프로드되고 로컬에서는 가벼운 검증만 수행됩니다.
• Regulatory Compliance – 엄격한 감사 요구사항이 있는 산업(의료 기기, 자율 주행 등)은 실시간 성능을 희생하지 않고도 설명 가능성 의무를 충족할 수 있습니다.
• Developer Productivity – 팀은 기존 모델을 XaaS API에 연결하기만 하면 즉시 다양한 설명 옵션을 활용할 수 있어, 새로운 엣지 사용 사례마다 XAI 파이프라인을 재구축할 필요가 줄어듭니다.
• Cost Savings – 캐시에서 설명을 재사용함으로써 네트워크 대역폭과 컴퓨팅 비용이 감소하며, 이는 대역폭이 제한된 IoT 배포에서 특히 가치가 있습니다.

제한 사항 및 향후 작업

• 캐시 오래됨 – 기본 모델이 자주 업데이트될 경우, 캐시된 설명이 검증 프로토콜이 감지하기 전에 빠르게 구식이 될 수 있어 보다 적극적인 캐시 무효화 전략이 필요합니다.
• 보안 및 프라이버시 – 원시 입력을 중앙 설명 서비스로 전송하면 민감한 데이터가 노출될 위험이 있습니다; 저자들은 암호화된 또는 연합형 설명 메커니즘의 필요성을 언급합니다.
• 방법 선택 오버헤드 – 적응형 엔진이 런타임 비용을 줄이지만, 의사 결정 로직 자체가 작은 오버헤드를 추가하여 초저전력 노드에서는 눈에 띌 수 있습니다.
• 향후 방향 – 저자들은 디바이스 내에서 유사도 메트릭을 학습하는 방법을 탐구하고, 설명 파이프라인에 차등 프라이버시를 통합하며, XaaS를 멀티모달 모델(예: 오디오‑비주얼 AI)을 지원하도록 확장할 계획입니다.

저자

• Samaresh Kumar Singh
• Joyjit Roy

논문 정보

• arXiv ID: 2602.04120v1
• 분류: cs.LG, cs.AI, cs.DC, cs.SE
• 발행일: 2026년 2월 4일
• PDF: PDF 다운로드