세 연구자·한 GPU·2년, RX 580이 AI 플랫폼이 된 비결

발행: 2주 전 (2026년 5월 24일 PM 10:20 GMT+9)

5 분 소요

출처: Dev.to

이 글의 모든 이미지는 RX 580 8GB에서 생성되었습니다 — 모두가 AI를 실행할 수 없다고 말했던 바로 그 GPU입니다.
세 명의 독립 연구자. 협업 없이. 같은 GPU. 같은 결론.

플랫폼: Debian Linux
게시: Medium

Amihart는 RX 580에서 Vulkan을 이용한 LLM 추론을 최초로 문서화했습니다.
Debian에서 -DGGML_VULKAN=on 옵션으로 llama.cpp를 컴파일하고, Celeron G6900 CPU와 연결해 측정한 결과는 다음과 같습니다.

공식적으로 “AI를 지원하지 않는다”고 선언된 하드웨어에서 4.5배의 성능 향상을 달성한 것입니다.

하지만 당시에는 이렇게 적었습니다.

“안타깝게도 Vulkan이 RX 580에서 꽤 좋은 결과를 보여주긴 하지만, Stable Diffusion과 Vulkan을 함께 쓰는 방법은 알지 못합니다. Stable Diffusion을 사용하려면 ROCm이 필요합니다.”

이 문장은 다음 연구자가 답을 찾게 만든 질문을 열었습니다.

플랫폼: Linux/Debian
게시: dadhacks.org

DadHacks는 Amihart의 제한을 반박했습니다—비판이 아니라 소프트웨어가 진화했음을 증명하는 것이었습니다.

stable-diffusion.cpp가 성숙해졌습니다.
-DSD_VULKAN=ON(신버전에서는 -DGGML_VULKAN=ON과 동일) 옵션으로 Vulkan을 이용한 이미지 생성이 RX 580에서도 동작했습니다.
Q4 양자화와 함께 FLUX.1 Schnell을 포함했으며, VRAM을 초과하는 구성 요소는 CPU로 오프로드했습니다.

Amihart가 1월에 정확히 짚어낸 장벽은 12월이 되면서 사라졌습니다.

플랫폼: Windows 10 Pro + WSL2
게시: setup-ia-local-rx580-vulkan.web.app

세 번째 단계는 통합이었습니다.

이전 두 프로젝트는 모두 Linux에서만 동작했으며, Windows에서 일상적으로 사용할 수 있는 통합 시스템을 구축하지 못했습니다.
실패 사례(DirectML, ROCm, OpenVINO)를 문서화하지 않았고, 자동화 스크립트도 만들지 않았으며, OpenWebUI와도 연동되지 않았습니다.

AIVisionsLab이 그 공백을 메웠습니다.

프로젝트 / 질문 / 답변

프로젝트	질문	답변
Amihart	LLM을 Vulkan RX 580에서 실행할 수 있나요?	예. 24.56 tok/s
DadHacks	Stable Diffusion을 Vulkan RX 580에서 실행할 수 있나요?	예. `sd.cpp` 작동
AIVisionsLab	이 모든 것을 Windows에서 일상적으로 통합해 사용할 수 있나요?	예. 전체 스택 문서화 완료

모든 연구가 동일한 엔진에 수렴합니다.

ggml (Georgi Gerganov)
  ├── llama.cpp    → Vulkan을 통한 LLM
  └── stable-diffusion.cpp (leejet) → Vulkan을 통한 이미지

ggml은 딥러닝 텐서 연산을 C로 포팅하고 Vulkan 훅을 제공했습니다. 이 한 가지 선택이 레거시 AMD 하드웨어를 CUDA/ROCm 의존성 함정에서 해방시켰습니다.

Amihart: “이 카드가 얼마나 오래됐든, 기술적으로 AI에 사용할 수 있습니다.”
DadHacks: “이 설정은 비싼 업그레이드나 ROCm 같은 특수 소프트웨어 스택 없이도 기존 하드웨어 투자를 활용할 수 있는 접근성을 제공합니다.”
AIVisionsLab: “상업적 계획에 따른 구식화는 시장 선택일 뿐, 엔지니어링 장벽이 아닙니다. 레거시 하드웨어는 죽지 않으며, 올바른 소프트웨어가 있으면 해방됩니다.”