Kubernetes에서 보안 멀티테넌트 GPU-as-a-Service: 아키텍처, 격리 및 대규모 신뢰성

Source: DZone DevOps

GPU-as-a-Service (GPUaaS)

GPU는 현대 클라우드 플랫폼의 핵심 기능으로, 다양한 머신러닝 학습, 추론, 분석 및 시뮬레이션 워크로드를 지원하는 데 사용됩니다. 이러한 다양한 수요를 지원하기 위해 GPU를 더 이상 단일 팀이나 애플리케이션에 전용할 수 없습니다. 전용 GPU 솔루션은 빠르게 비현실적이고 매우 비용이 많이 드는 방식이 되었습니다.

이러한 수요를 충족하기 위해 조직들은 점점 더 많은 팀이 공유 Kubernetes 클러스터에서 GPU 자원을 직접 활용할 수 있는 공유 플랫폼을 찾고 있습니다. GPU-as-a-Service (GPUaaS) 플랫폼은 이러한 기능을 제공합니다.