$20 Billion 크리스마스 선물: NVIDIA가 Groq를 인수해 ‘Inference’ 반란을 진압한 이유
Source: Dev.to
Background
2025년 12월 24일, NVIDIA는 AI‑칩 스타트업인 Groq의 기술 및 핵심 인재를 인수하기 위해 200억 달러 규모의 계약을 발표했습니다. Groq는 매우 빠른 추론 성능으로 알려져 있습니다. 이번 움직임은 NVIDIA가 향후 가장 큰 도전 과제로 보고 있는 상황에 대한 전략적 대응으로 자리매김하고 있습니다.
AI 시장 분할
NVIDIA의 리더십은 AI 시장이 두 개의 뚜렷한 시대를 거쳐 이동하고 있다고 본다:
| 시대 | 연도 | 초점 | NVIDIA의 입장 |
|---|---|---|---|
| 훈련 | 2020‑2025 | 모델 구축 | 약 86 % 시장 점유율로 지배 |
| 추론 | 2026‑2030 | 모델 실행 (예: ChatGPT가 사용자에게 답변) | 경쟁 부상 |
왜 추론이 중요한가
- 현재 추론 워크로드는 종종 NVIDIA의 H100/Blackwell GPU에서 실행되며, 이는 강력하지만 많은 작업에 과도하게 설계되어 있다—마치 “우버 이츠 배달에 페라리를 운전하는 것”에 비유할 수 있다.
- 이러한 GPU의 높은 비용과 전력 소비는 대규모 고객(Google, Amazon, Microsoft)이 추론에 더 효율적인 맞춤형 ASIC을 개발하도록 동기를 부여한다.
- 분석가들은 NVIDIA가 적응하지 못할 경우, 2030년까지 추론 시장 점유율이 86 %에서 약 22.5 %로 떨어질 수 있다고 전망한다.
About Groq
Groq는 원래 텐서 처리 장치(TPU) 개발에 기여한 전 Google 엔지니어인 Jonathan Ross가 설립했습니다. 회사의 대표 아키텍처인 LPU(Language Processing Unit)는 다음과 같은 차별점을 제공합니다:
- Speed – 벤치마크에 따르면 GPU가 2 분이 걸리는 작업을 Groq는 약 6 초 만에 완료할 수 있습니다.
- Supply‑Chain Immunity – Groq의 칩은 CoWoS 패키징과 고대역폭 메모리(HBM)의 필요성을 없애, 두 가지 주요 글로벌 공급망 병목 현상을 회피합니다.
거래 구조
- 전체 인수 없음 – NVIDIA는 Groq 기업을 인수하지 않았습니다.
- 자산 및 인재 이전 – 200억 달러의 지급으로 Groq 기술에 대한 비독점 라이선스를 확보하고, CEO 조나단 로스를 포함한 핵심 리더십 팀을 채용했습니다.
- 쉘은 유지 – Groq는 새로운 CEO 아래 독립 기업으로 계속 운영되어 경쟁 구도가 유지되는 모습을 보입니다.
이 구조 덕분에 거래가 신속히 마무리될 수 있었으며, 규제 당국은 반독점 이슈를 제기할 근거가 제한되었습니다.
함의
영향을 받는 당사자
- AMD – 재구성된 실리콘 경쟁 구도를 마주한다.
- Google – 잠재적인 파트너를 잃고 자체 TPU 전문성이 경쟁사로 이전되는 것을 본다.
- OpenAI – NVIDIA의 통합 학습 및 추론 스택에 더 의존하게 된다.
잠재적 결과
| 측면 | 긍정적 | 부정적 |
|---|---|---|
| 추론 비용 | LPU‑기반 솔루션으로 인해 급격히 감소할 것으로 예상된다. | OpenAI의 NVIDIA 의존도가 심화되어 협상력이 제한될 가능성이 있다. |
Jensen Huang의 관점
Jensen Huang은 “나는 매일 아침 우리가 사업을 그만둘 때까지 30일 남은 것 같은 기분으로 일어난다”고 말한 바 있습니다. 지배적인 교육 시장 점유율에 안주하지 않고, 그는 맞춤형 추론 칩의 부상을 존재론적 위협으로 보고 교육과 추론 기술 모두에 대한 통제권을 확보하기 위해 행동했습니다.
“나는 원해서 Groq를 산 것이 아니라, 다른 사람이 ‘추론’ 왕관을 차지하는 것을 거부했기 때문에 샀다.”
이 인수로 NVIDIA는 이제 AI 하드웨어의 “페라리”와 “스쿠터” 함대를 모두 장악하게 되었습니다. 경쟁 구도는 그에 맞춰 조정될 필요가 있습니다.