[Paper] 비균일 메모리 접근(NUMA) 아키텍처에서 과학 워크플로 스케줄링 연구 활성화

Source: arXiv - 2511.19832v1

개요

이 논문은 nFlows라는 런타임 시스템을 소개한다. nFlows는 최신 고성능 컴퓨팅(HPC) 노드에서 과학 워크플로우 스케줄링에 NUMA 인식을 도입한다. 다중 도메인 CPU, HBM/DRAM 계층 구조, 그리고 연결된 가속기들의 메모리 지역성 특성을 노출함으로써, nFlows는 연구자와 엔지니어가 현실적인 NUMA 효과를 모델링·시뮬레이션·실행할 수 있게 한다—이는 대부분의 기존 스케줄러가 Grid나 Cloud 환경을 위해 설계돼 무시하는 부분이다.

주요 기여

• nFlows 런타임 – NUMA 도메인, 이종 메모리(HBM vs. DRAM), 가속기 배치(GPU/FPGAs, NICs)를 모델링하는 풀스택 실행 환경.
• 통합 시뮬레이션‑to‑베어‑메탈 흐름 – 동일한 워크플로우 설명을 빠른 이산 이벤트 시뮬레이터에서 실행하거나 실제 하드웨어에서 실행할 수 있으며, 코드 변경이 필요하지 않다.
• NUMA‑인식 스케줄링 API – 노드 수준에서 데이터 지역성을 고려하는 맞춤형 배치 휴리스틱을 플러그인할 수 있는 훅.
• 검증 프레임워크 – 실제 NUMA 기반 HPC 노드에서 측정값과 시뮬레이션 예측을 비교하는 체계적인 방법론.
• 오픈소스 프로토타입 – 핵심 구성 요소를 공개하여 커뮤니티가 실험을 재현하고 플랫폼을 확장할 수 있게 함.

방법론

1. 시스템 모델링 – 저자들은 전형적인 최신 HPC 노드(다중 CPU 소켓, 각 소켓당 여러 NUMA 도메인, HBM 스택, DRAM 뱅크, PCIe‑연결 장치)를 먼저 특성화한다. 이들은 도메인 간 메모리 접근에 대한 지연 및 대역폭 매트릭스를 수집한다.
2. 워크플로우 표현 – 과학 워크플로우는 DAG(Directed Acyclic Graph) 형태로 표현되며, 노드는 작업, 엣지는 데이터 의존성을 나타낸다. 각 작업은 요구 메모리 크기, 연산 강도, 선택적 가속기 친화성에 대한 메타데이터를 포함한다.
3. 런타임 엔진 – nFlows는 DAG를 파싱하고, Linux numactl/hwloc을 통해 NUMA 토폴로지를 조회한 뒤 작업을 특정 코어와 메모리 영역에 스케줄링한다. 또한 데이터 버퍼를 선택된 NUMA 노드에 고정하여 지역성을 강제한다.
4. 시뮬레이션 레이어 – 이산 이벤트 시뮬레이터는 동일한 스케줄링 코드를 재사용하지만 실제 실행 대신 지연/대역폭 모델에서 도출된 추정 연산·전송 시간을 사용한다. 이를 통해 빠른 “what‑if” 연구가 가능하다.
5. 검증 – 저자들은 대표적인 데이터 집약형 워크플로우(예: 유전체 분석 파이프라인, 기후 시뮬레이션)를 시뮬레이션과 2‑소켓, 8‑NUMA‑도메인 테스트베드(HBM 및 GPU 탑재)에서 실제 실행한다. 그들은 makespan, 메모리 대역폭 활용도, 인터‑NUMA 트래픽을 비교한다.

결과 및 발견

• 시뮬레이션 정확도 – 예측된 makespan은 실제 실행 결과와 ±8 % 이내였으며, 이는 지연/대역폭 모델이 주요 NUMA 효과를 잘 포착함을 확인한다.
• 성능 향상 – NUMA‑인식 배치는 인터‑도메인 메모리 트래픽을 30‑45 % 감소시켰고, 이는 단순 라운드‑로빈 스케줄러에 비해 전체 워크플로우 실행 시간을 10‑20 % 단축시켰다.
• 가속기 공동 배치 – GPU‑바인드 작업을 해당 NIC와 동일한 NUMA 노드에 고정함으로써 데이터 전송 지연을 ≈15 % 감소시켜 I/O‑집중 단계에 이점을 제공했다.
• 인‑메모리 실행 가능성 – 중간 데이터셋을 소비 작업과 동일한 도메인의 HBM에 유지함으로써 메모리‑바운드 커널에서 최대 2× 속도 향상을 입증했다.

실용적 함의

• HPC 애플리케이션 개발자는 nFlows(또는 그 API 개념)를 기존 워크플로우 엔진(Pegasus, Airflow 등)에 통합하여 수동 튜닝 없이 자동으로 NUMA 지역성을 활용할 수 있다.
• 스케줄러 벤더는 NUMA‑인식 휴리스틱(예: 도메인‑인식 백필링, HBM‑우선 배치)을 프로토타이핑할 테스트베드를 확보하게 되며, 이를 실제 클러스터에 적용하기 전에 검증할 수 있다.
• 시스템 관리자는 NUMA‑유발 병목을 강조하는 진단 도구를 받아 BIOS/OS 설정(예: 메모리 인터리빙) 최적화에 활용할 수 있다.
• 클라우드‑엣지 제공업체는 NUMA 특성을 가진 베어‑메탈 인스턴스를 제공하면서 nFlows를 이용해 “NUMA‑최적화” 워크플로우 서비스를 제공, 일반 VM 기반 서비스와 차별화할 수 있다.

제한 사항 및 향후 연구

• 현재 프로토타입은 Linux x86‑64 노드를 대상으로 하며, ARM 기반 혹은 새로운 분산 메모리 시스템은 아직 지원되지 않는다.
• 평가된 가속기는 일부(NVIDIA GPU, Intel FPGA)만 포함되었으며, AMD GPU나 맞춤형 ASIC 지원은 아직 남아 있다.
• 저자들은 지연 모델이 정적 대역폭을 가정하고 있음을 인정한다; OS 백그라운드 트래픽 등 동적 경쟁은 예측 정확도를 저하시킬 수 있다.
• 향후 방향은 런타임 텔레메트리를 활용한 적응형 스케줄링, 컨테이너 오케스트레이션(Kubernetes)과의 통합, 그리고 다중 노드에 걸친 분산 NUMA 지원(RDMA‑인식 배치) 등을 포함한다.

저자

• Aurelio Vivas
• Harold Castro

논문 정보

• arXiv ID: 2511.19832v1
• 분류: cs.DC
• 출판일: 2025년 11월 25일
• PDF: Download PDF