1개월 전 · ai

[Paper] HPC 인프라스트럭처에서 자동 동적 AI 추론 스케일링: Kubernetes, Slurm 및 vLLM 통합

Artificial Intelligence (AI) inference에 대한 수요가 증가함에 따라, 특히 고등교육 분야에서 기존 인프라를 활용한 새로운 솔루션이 등장하고 있습니다....