[논문] AI 기반 스팟 플릿을 활용한 다지역 클라우드 서비스 프로비저닝

Source: arXiv - 2605.22778v1

개요

이 논문은 클라우드 엔지니어가 멀티‑리전 Spot 플릿을 AWS에 프로비저닝하면서 플릿을 시작하기 전 예상 비용을 알 수 있게 해주는 AI 기반 서비스를 소개한다. 지역별 Spot 가격과 가용성을 예측함으로써 기존 EC2 Spot Service 워크플로우를 유지하면서도 비용 인식 의사결정 레이어를 추가해 대규모 연산 집약 워크로드의 비용을 최대 64 %까지 절감할 수 있다.

주요 기여

• 예측 비용 모델: AWS Spot 플릿의 전체 가격과 리소스 가용성을 배포 전 어느 AWS 리전에서도 추정한다.
• 멀티‑리전 프로비저닝 엔진: 네이티브 EC2 Spot Service와 통합되어 할당 의미를 보존하면서 리전 간 플릿 구성을 가능하게 한다.
• 모니터링‑피드백 루프: 실시간 Spot 시장 데이터를 사용해 AI 모델을 지속적으로 개선하여 99 % 이상의 예측 정확도를 달성한다.
• 확장 가능한 검증: 최대 1,500 vCPU 플릿에 대해 실험을 수행, 배치형 워크로드와 지연 민감형 워크로드 모두에 적용 가능함을 입증한다.
• 정량적 절감 효과: 실험 결과, 단일 리전의 단순 Spot 프로비저닝에 비해 비용이 30 %에서 64 %까지 감소한다는 것을 보여준다.

방법론

1. 데이터 수집 – 시스템은 모든 리전의 Spot 가격 히스토리, 중단률, 용량 신호를 지속적으로 스크래핑한다.
2. 특성 엔지니어링 – 시간대·요일 같은 시계열 특성, 지역별 수요 지표, 인스턴스 유형 특성을 모델에 입력한다.
3. AI 모델 – 경량 앙상블(Gradient‑Boosted Trees + 작은 LSTM)로 시간당 Spot 가격과 중단 확률을 예측한다.
4. 프로비저닝 플래너 – 워크로드 사양(총 vCPU, 마감시간, 중단 허용치)을 입력받아 가능한 리전‑유형 조합을 열거하고, 모델에 비용을 조회한 뒤 제약을 만족하는 최저 비용 구성을 선택한다.
5. 피드백 루프 – 플릿이 시작된 후 실제 가격·중단 데이터를 기록하고, 이를 야간에 모델 재학습에 사용해 시장 변동에 맞게 예측을 최신화한다.

전체 파이프라인은 간단한 API(GET /plan?vcpu=800&deadline=2h)를 제공하는 서비스 형태로 래핑되어 CI/CD 파이프라인이나 Terraform, Kubernetes Operator와 같은 오케스트레이션 도구에서 호출할 수 있다.

결과 및 분석

모델이 거의 완벽에 가까운 가격 예측을 제공하므로 플래너는 급격한 가격 급등 위험 없이 최저 비용 리전을 신뢰성 있게 선택할 수 있다. 비용 절감은 주로 리전 간 가격 차익을 활용한 결과이며, 예를 들어 US‑East‑1에서 Spot 가격이 US‑West‑2보다 40 % 낮을 때 배치를 일부 해당 리전에서 실행한다는 식이다.

실무적 함의

• DevOps 자동화 – 팀은 기존 IaC 파이프라인에 API를 삽입해 새로운 배치 작업이 제출될 때마다 자동으로 최저 비용 리전을 선택할 수 있다.
• 하이브리드 워크로드 – 지연 민감 서비스는 온‑디맨드 인스턴스를 기본으로 유지하면서, 초과 계산량을 가장 저렴한 Spot 리전으로 넘겨 전체 클라우드 비용을 낮춘다.
• 비용 거버넌스 – 재무와 엔지니어링 부서는 예산 상한을 설정하고, 플래너는 해당 한도 이하의 구성만 제안해 리소스 할당 전 투명한 “what‑if” 비용 전망을 제공한다.
• 벤더 중립 확장 – 현재는 AWS Spot에 최적화돼 있지만, 아키텍처(모니터‑예측‑플랜)는 Google Preemptible VM, Azure Spot 등 다른 클라우드 제공자에도 최소한의 수정으로 적용 가능하다.
• 확장 가능한 버스트 용량 – 수천 코어를 짧은 시간에 필요로 하는 분석(예: 유전체학, 몬테카를로 시뮬레이션) 기업은 작업 스케줄러를 재작성하지 않고도 큰 비용 절감을 달성할 수 있다.

제한 사항 및 향후 연구

• 리전 데이터 최신성 – 모델은 Spot 시장 업데이트 빈도에 의존하므로, 데이터 수집 사이에 발생하는 급격한 가격 급등은 여전히 소규모 추정 오류를 야기할 수 있다.
• 중단 모델링 – 가격 예측은 정확하지만 중단 확률은 근사치이며, 초저지연 서비스에 대해서는 보다 정밀한 보정이 필요할 수 있다.
• 벤더 종속성 – 현재 구현은 AWS API에 강하게 결합돼 있어 진정한 멀티‑클라우드 버전을 만들려면 제공자별 Spot 의미 체계를 추상화해야 한다.
• 동적 워크로드 적응 – 향후 연구에서는 실행 중인 작업을 리전 간에 실시간으로 이동시키는 스케일링 의사결정을 통합해 실행 중에도 가격 변동을 최대한 활용할 수 있도록 할 예정이다.

전반적으로 이 연구는 Spot 인스턴스의 비용 효율성과 프로덕션 팀이 요구하는 예측 가능성을 연결하는 실용적인 다리를 제공하며, AI 기반 프로비저닝을 대규모로 활용할 수 있는 명확한 길을 열어준다.

저자

• Javier Fabra
• Enrique Molina-Giménez
• Pedro García-López

논문 정보

• arXiv ID: 2605.22778v1
• 분류: cs.DC
• 발표일: 2026년 5월 21일
• PDF: PDF 다운로드