安全的多租户 GPU-as-a-Service 在 Kubernetes 上：架构、隔离与大规模可靠性

Source: DZone DevOps

GPU-as-a-Service (GPUaaS)

GPU 是现代云平台的核心特性，用于支持广泛的机器学习训练、推理、分析和仿真工作负载。为了满足这种多样化的需求，GPU 已经不能再仅专用于单个团队或单个应用。专用 GPU 方案迅速变得不可行且成本极高。

为了解决这一需求，组织正日益倾向于共享平台，让多个团队能够直接从共享的 Kubernetes 集群中使用 GPU 资源。GPU-as-a-Service (GPUaaS) 平台正是提供了这种能力。