[Paper] 무선 엣지 네트워크에서 통신-컴퓨테이션 파이프라인 병렬 Split Learning

Source: arXiv - 2511.23167v1

Overview

이 논문은 Communication‑Computation Pipeline Parallel Split Learning (C²P²SL) 을 소개한다. 이는 스플릿 러닝과 파이프라인 병렬성을 결합한 새로운 프레임워크로, 무선 엣지 네트워크에서 분산 모델 학습을 가속화한다. 업링크/다운링크 데이터 전송과 로컬 및 서버 측 연산을 겹치게 함으로써, C²P²SL은 전체 학습 시간을 크게 단축하면서도 스플릿 러닝의 프라이버시 보장을 유지한다.

Key Contributions

• 파이프라인 기반 스플릿 러닝: 기존 스플릿 러닝을 확장하여 각 사용자 장비(UE)와 기지국(BS)의 통신·연산 단계를 파이프라인의 단계로 취급, 마이크로 배치를 동시에 흐르게 한다.
• 작업‑분할 및 자원‑배분 공동 최적화: 신경망을 어디서 자를지(어떤 레이어가 UE에 남는지)와 라디오 자원(대역폭, 전력)을 각 UE에 어떻게 할당할지 결정하는 혼합 정수 문제를 수식화하여 지연 시간과 이질성을 균형 있게 조절한다.
• 교대 최적화 솔루션: 컷‑레이어 선택과 라디오‑자원 배분 서브문제를 번갈아 가며 효율적으로 풀어, 실시간 엣지 배포에 실용적인 알고리즘을 제안한다.
• 광범위한 평가: 다양한 채널 조건과 UE 성능에서 총 학습 시간 38 % 감소를 달성했으며, 모델 수렴 정확도에 미치는 영향은 무시할 수준이다.

Methodology

1. 모델 파티셔닝: 딥 모델을 컷 레이어에서 분할한다; 앞부분은 각 UE에서, 나머지는 BS에서 실행한다.
2. 마이크로‑배칭 & 파이프라이닝: 각 학습 배치를 여러 마이크로‑배치로 나눈다. UE 1이 마이크로‑배치 1의 활성화를 전송하는 동안, UE 2는 마이크로‑배치 2에 대한 포워드 패스를 이미 시작할 수 있고, BS는 마이크로‑배치 1의 활성화를 받아 처리할 수 있다. 이는 통신‑연산 파이프라인을 형성하며, 조립 라인 처리와 유사하다.
3. 시스템 모델: 저자들은 업링크/다운링크 전송 시간(대역폭, 전력, 채널 이득의 함수)과 로컬/원격 연산 시간(샘플당 CPU 사이클 및 디바이스 속도의 함수)을 모델링한다.
4. 최적화 문제:
   • 변수: 각 UE의 컷‑레이어 인덱스, 대역폭 할당, 전송 전력.
   • 목표: 전체 epoch 학습 시간(파이프라인의 makespan) 최소화.
   • 제약: 지연 예산, 전력 제한, 모든 마이크로‑배치가 epoch 내에 완료되어야 함.
5. 해결 접근법:
   • 교대 최적화: 컷 레이어를 고정 → 볼록 자원‑배분 서브문제 해결; 자원을 고정 → 주변 지연 감소를 기준으로 이산 탐색을 통해 컷 레이어 업데이트.
   • 수렴: 교대 단계가 몇 번의 반복만에 지역 최적 해에 수렴함을 보인다.

Results & Findings

• 지연 분석: 통신과 연산이 겹치면서 순차적 베이스라인 대비 유휴 시간이 약 45 % 감소한다.
• 확장성: UE 수를 늘리면 포화점(BS가 병목이 되는 지점)까지 지속적으로 이득이 발생한다; 최적화기가 자동으로 컷 레이어를 더 깊게 이동시켜 BS에 더 많은 작업을 오프로드한다.

Practical Implications

• 엣지‑AI 서비스: 모바일 AR, IoT 분석, 연합 학습과 유사한 시나리오에서 파이프라인 덕분에 지연을 희생하지 않고 더 풍부한 모델을 디바이스에서 학습할 수 있다.
• 네트워크‑인식 AI 오케스트레이션: 공동 최적화 프레임워크를 5G/6G 라디오 자원 스케줄러에 통합하면, 학습 워크로드에 따라 스펙트럼을 동적으로 할당하는 AI‑aware 슬라이싱이 가능해진다.
• 개발자 도구: 논문의 알고리즘은 가벼워 PyTorch 확장 등 라이브러리 형태로 패키징할 수 있으며, 자동으로 컷 레이어를 결정하고 Open RAN O‑RAN 인터페이스와 같은 표준 API를 통해 라디오 파라미터를 설정한다.
• 에너지 절감: 전체 학습 시간이 줄어들어 UE가 고전력 전송/연산 상태에 머무는 시간이 감소, 웨어러블 및 센서 노드의 배터리 수명이 연장된다.

Limitations & Future Work

• 정적 채널 가정: 현재 모델은 epoch 동안 채널 이득을 고정으로 가정한다; 빠른 페이딩이나 이동성 환경에서는 적응형 재최적화가 필요하다.
• 단일‑BS 토폴로지: C²P²SL을 다중‑BS 또는 메쉬 엣지 아키텍처(예: MEC 서버)로 확장하는 연구는 향후 과제로 남겨진다.
• 프라이버시 외 보안: 스플릿 러닝이 원시 데이터를 보호하지만, 중간 활성화를 통한 정보 유출 가능성은 다루지 않는다; 차등 프라이버시나 동형 암호와의 결합이 탐색될 수 있다.
• 프로토타입 배포: 실험은 시뮬레이션 기반이며, 상용 5G 하드웨어를 이용한 실제 테스트베드 구축을 통해 파이프라인 동기화 및 스케줄링 지연과 같은 오버헤드를 검증할 필요가 있다.

핵심 요약: C²P²SL은 필연적인 “통신‑후‑연산” 패턴을 진정한 파이프라인으로 전환함으로써, 엣지 AI에서 모델 품질을 손상시키지 않으면서도 실질적인 속도 향상을 제공한다. 프라이버시를 보존하면서도 연산 집약적인 서비스를 엣지에서 제공하려는 개발자에게, 기존 무선 인프라에서 더 많은 성능을 끌어낼 수 있는 실용적인 로드맵을 제시한다.

Authors

• Chenyu Liu
• Zhaoyang Zhang
• Zirui Chen
• Zhaohui Yang

Paper Information

• arXiv ID: 2511.23167v1
• Categories: cs.DC
• Published: November 28, 2025
• PDF: Download PDF