[Paper] QoS‑Aware 로드 밸런싱 컴퓨팅 연속체에서 Multi‑Player Bandits를 통해

Source: arXiv - 2512.18915v1

개요

이 논문은 QEdgeProxy를 소개한다. QEdgeProxy는 새롭게 떠오르는 Computing Continuum을 위해 설계된 탈중앙화 로드‑밸런싱 계층으로, 클라우드, 엣지, 디바이스‑레벨 컴퓨팅이 매끄럽게 결합된 형태이다. 각 로드‑밸런서를 다중‑팔 밴딧 게임의 플레이어로 간주함으로써, QEdgeProxy는 워크로드와 네트워크 조건이 변하더라도 IoT 트래픽을 각 클라이언트의 지연 시간 및 신뢰성 목표를 가장 잘 충족시킬 가능성이 높은 서비스 인스턴스로 동적으로 전환할 수 있다.

주요 기여

• QoS‑centric formulation: 로드 밸런싱을 연속체에서 다중 플레이어 다중 팔 밴딧(MP‑MAB) 문제로 정의하며, 이질적인 보상을 사용해 클라이언트별 QoS 성공 확률을 직접 모델링합니다.
• Kernel Density Estimation (KDE) for reward modeling: 관측된 응답 시간의 분포를 추정하기 위해 KDE를 사용하여, 클라이언트의 QoS 마감시간을 충족할 확률을 부드럽게 추정합니다.
• Adaptive exploration strategy: 경량이며 상황 인식 탐색 메커니즘을 도입해 비정상적인 상황(예: 급격한 부하 급증 또는 인스턴스 실패)에 빠르게 대응합니다.
• Kubernetes‑native implementation: 기존 서비스에 변경 없이 K3s 클러스터에서 사이드카/프록시로 실행되는 오픈소스 QEdgeProxy를 제공합니다.
• Empirical validation: 현실적인 엣지‑AI 워크로드에서 QEdgeProxy가 단순 근접 기반 라우팅 및 최신 강화 학습 기반 밸런서를 능가하여 클라이언트별 QoS 만족도와 적응성에서 우수함을 입증합니다.

방법론

1. 문제 모델링 – 각 엣지 프록시(플레이어)는 들어오는 요청마다 여러 서비스 인스턴스(팔) 중 하나를 선택해야 합니다. “보상”은 이진값으로, 요청이 클라이언트의 QoS 마감시간을 만족하면 1, 그렇지 않으면 0입니다. 클라이언트마다 지연 목표가 다르기 때문에 보상은 플레이어마다 이질적입니다.
2. KDE를 이용한 보상 추정 – 성공 횟수를 단순히 세는 대신, QEdgeProxy는 각 팔에 대해 관측된 응답 시간 분포의 커널 밀도 추정(KDE)을 구축합니다. 클라이언트 마감시간 이하에 해당하는 곡선 아래 면적이 추정 성공 확률이 됩니다.
3. 결정 규칙 – 플레이어는 추정 성공 확률과 탐색 보너스를 균형 있게 조정하는 Upper‑Confidence Bound(UCB) 스타일 규칙을 사용합니다. KDE가 충분히 신뢰성을 확보하면 보너스가 감소하고, 최근 관측이 변화를 나타내면 보너스가 확대됩니다.
4. 비정상성에 대한 적응 – 슬라이딩 윈도우를 사용해 오래된 샘플을 버리고, 추정 분포에 유의한 변화가 감지되면(예: KL‑divergence 테스트) 탐색 보너스를 증가시킵니다.
5. 구현 – QEdgeProxy는 HTTP/gRPC 트래픽을 가로채고 로컬 KDE 테이블을 조회한 뒤 선택된 인스턴스로 요청을 전달하는 경량 Go 서비스로 패키징됩니다. Kubernetes와는 Custom Resource Definition(CRD)을 통해 클라이언트별 QoS 목표를 선언하도록 통합됩니다.

결과 및 발견

• 높은 QoS 만족도: QEdgeProxy는 지연에 민감한 요청을 지속적으로 기한 내에 처리하여 RL 기준 대비 약 15 % 향상을 제공했습니다.
• 빠른 복구: 서비스 인스턴스가 실패하거나 갑작스러운 트래픽 급증이 엣지 노드에 도달했을 때, QEdgeProxy는 몇 초 안에 트래픽을 재할당했으며, 반면 RL 모델은 재학습에 훨씬 많은 에피소드가 필요했습니다.
• 낮은 오버헤드: 프록시는 요청당 < 2 ms의 처리 지연만을 추가했으며, 일반적인 엣지 AI 추론 시간(≈ 30 ms)과 비교해 무시할 수 있는 수준입니다.

실용적 함의

• Edge‑AI 배포: 개발자는 기존 K3s 또는 micro‑k8s 클러스터에 QEdgeProxy를 플러그인하여 카메라, 드론, AR 디바이스의 추론 지연 시간을 재설계 없이 보장할 수 있다.
• SLA‑기반 다테넌트 플랫폼: 클라우드‑엣지 제공자는 테넌트별 QoS 계약을 공개할 수 있으며, QEdgeProxy는 이를 자동으로 적용해 수동 트래픽 엔지니어링 필요성을 줄인다.
• 비용 효율성: 가장 가까운 인스턴스가 아니라 가장 성공 가능성이 높은 인스턴스로 트래픽을 유도함으로써, 운영자는 저사양 엣지 노드를 더 오래 온라인 상태로 유지해 하드웨어 및 에너지 비용을 절감할 수 있다.
• Zero‑touch 스케일링: 적응형 탐색은 RL‑기반 컨트롤러에서 흔히 발생하는 “콜드‑스타트” 문제를 없애며, 노드가 자주 가입·탈퇴하는 고동적 IoT 플릿에 QEdgeProxy를 적합하게 만든다.

제한 사항 및 향후 연구

• 신뢰할 수 있는 QoS 피드백을 가정: 이 접근법은 정확한 응답 시간 측정이 필요하며, 시계가 동기화되지 않은 경우와 같은 잡음이 섞인 타임스탬프는 KDE 추정치를 악화시킬 수 있습니다.
• KDE 테이블의 확장성: 소수의 인스턴스에 대해서는 가볍지만, 수백 개의 팔에 대해 KDE를 유지하면 메모리 사용량이 증가할 수 있습니다; 계층적 또는 스케치 기반 근사 방법이 가능한 해결책입니다.
• 이진 QoS 성공에만 제한: 모델을 다차원 SLA(예: 지터, 처리량)로 확장하면 적용 범위가 넓어집니다.
• 실제 배포 연구: 저자들은 실제 트래픽 패턴 및 이기종 하드웨어 하에서의 견고성을 확인하기 위해 QEdgeProxy를 생산 환경 엣지 네트워크(예: 5G MEC)에서 평가할 계획입니다.

저자

• Ivan Čilić
• Ivana Podnar Žarko
• Pantelis Frangoudis
• Schahram Dustdar

논문 정보

• arXiv ID: 2512.18915v1
• 분류: cs.NI, cs.DC
• 출판일: 2025년 12월 21일
• PDF: PDF 다운로드