“AI 모델 경쟁 시대 지났다”…SKT AI 팀장이 현장에서 본 것
Source: Byline Network
“어떤 LLM(거대언어모델)이 최고인지를 고민하는 시대는 지났습니다. 모델은 상향평준화 됐습니다. 나에게 적합한 모델을 잘 선택해 사용하면 됩니다.”
SK텔레콤 G.AI 사업팀 강민준 팀장은 바이라인네트워크와의 인터뷰에서 정부나 언론이 지나치게 모델에만 관심이 많다며 이같이 지적했다. 정작 AI 비즈니스 현장에서 모델의 성능은 크게 문제되지 않는다는 것이다.
강 팀장은 좋은 모델이 아니라 적합한 모델을 고르는 것이 현장의 관건이라고 강조했다. 각 모델들이 나름대로의 강점과 약점이 있어 업무에 맞는 적절한 모델을 선택해 사용하면 된다는 것이다. 예를 들어 코딩은 클로드 코드가 잘하고, 플래닝은 제미나이가 잘 짜고, 한국어 법령 같은 특수 용어는 국내 모델의 이해도가 높다. 어느 하나가 압도적으로 우월한 시대는 지나가고 있다는 얘기다.
그가 안타깝게 보는 것은 이런 현실과 달리 많은 이들의 시선이 여전히 모델에만 쏠려 있다는 점이다.
“모델만 있다고 되는 게 아니에요. 클로드나 GPT도 모델 위에 에이전트들을 엄청 많이 만들어 놨거든요. 모델을 어떻게 잘 활용할 체계를 만들지, 생태계를 만들지를 고민해야 하는데 그게 없는 거죠.”
그는 “문장 교정처럼 단순한 작업이라면 오픈소스 72B 모델로도 충분하다”면서 “그냥 모델 큰 거 도입해서 이거 다 해줘 이렇게 하면 안 된다. 업무를 잘 쪼개면 작은 모델로도 할 수 있다”고 강조했다.
SKT G.AI 사업팀이 실제로 힘을 쏟는 곳은 모델 자체가 아니라 AX 플랫폼이다. 모델을 관리하고 AI 에이전트를 만들거나 관리하는 역할을 하는 플랫폼이다.
SKT의 AX 플랫폼은 크게 두 가지 기능으로 구성된다. 하나는 모델 오케스트레이션이다. 고객이 원하는 AI 모델을 등록하면, 플랫폼이 알아서 서버 자원을 배정하고 바로 쓸 수 있는 접속 주소를 만들어준다. 큐웬(Qwen), 딥시크, GPT, 제미나이, 클로드 API 등 다양한 모델을 한 플랫폼 안에서 통합 관리할 수 있다. 서버 자원을 관리하는 쿠버네티스를 화면 버튼이나 API로 조작할 수 있게 편의 기능을 제공한다.
또다른 핵심 기능은 AI 에이전트 빌더다. 코딩을 많이 하지 않아도 내부 문서 검색, 외부 툴 연결 등을 블록 조립하듯 붙여서 AI 에이전트를 만들고 실제 서비스로 내보낼 수 있다고 강 팀장은 설명했다.
모델을 교체할 때도 새로 구축 프로젝트를 시작할 필요가 없다는 것이 이 플랫폼의 실용적 강점이다. 현재는 모델 추론이 표준화가 많이 돼 있어서 허깅페이스에서 파일 받아 등록하고 배포 누르면 원하는 모델로 바꿀 수 있다. 이와 같은 플랫폼이 없다면 모델 교체를 위해 프로젝트를 새로 시작해야 한다.
그렇다고 SKT가 모델 개발에 신경을 쓰지 않는 것은 아니다. SKT는 AX 플랫폼과 별개로 모델 개발도 병행하고 있다. SKT는 LG AI연구원, 업스테이지, 모티프테크놀로지스 등과 함께 정부의 독자 AI 파운데이션 모델(독파모) 프로젝트 2단계를 통과했다. SKT는 A.X K1이라는 5190억 파라미터 규모의 독자 AI 모델로 독파모에 참여했다. 이 모델은 전문가 혼합(MoE) 구조와 일반 답변·사고 추론을 선택할 수 있는 생각 모드 기술이 내재돼 있다.
SKT는 독파모 참여 모델(A.X K1) 외에도 A.X 3.1(34B)과 대규모 추가 학습(CPT) 기반의 A.X 4.0 등 여러 LLM을 허깅페이스에 오픈소스로 공개한 바 있다.
물론 SKT가 이 모델들을 기반으로 챗GPT나 제미나이 같은 소비자용 서비스를 만들지는 않았다. 오픈소스로 공개한 이상 이 자체로 수익을 창출하기도 쉽지 않다. 강 팀장이 주목하는 것은 고객 특화 모델 사업이다. 이런 파운데이션 모델 위에 고객별로 필요한 추가학습을 시킨 특화 모델을 만들어 주는 방식의 사업을 펼치고 있다.
“고객이 모델을 처음부터 새로 만들면 비용이 엄청납니다. 저희 모델이나 큐웬 같은 오픈소스 모델에 고객 데이터로 추가 학습(CPT)을 시켜 특화 모델을 만들어주는 방식이 현실적인 시장 전략입니다.”
SKT AI 전략의 핵심은 고객 기업들이 각자의 AI 에이전트를 구축해 활용하도록 하는 것이다. 그 과정에서 AX 플랫폼을 활용하고, SKT 기반의 특화 모델을 사용하도록 하는 것이다.
하지만 아직 국내 기업의 경우 AI 에이전트 활용이 활발하지는 않다. 강 팀장이 고객사에서 가장 많이 듣는 말은 “AI를 해야 하는 건 알겠는데 뭘 만들어야 할지 모르겠다”는 것이다. 그는 뭘 만들면 좋을지 고민하지 말고 일단 생각나는 것은 뭐든지 만들어 볼 것을 조언한다.
현재 고객사에서 가장 많이 요청하는 에이전트는 RAG(검색 증강 생성) 기반이다. 기업마다 데이터 사일로가 심해 내부 데이터를 한 데 모아 검색에 연결하는 것만으로도 실질적인 업무 효율화가 가능하기 때문이다.
그보다 더 큰 과제는 도입 이후다. 강 팀장은 “잘 만들어 배포해도 잘 안 쓰는 경우도 많다”고 전했다. 현업 직원들이 귀찮은 게 하나 더 생기는 것으로 느끼기 때문이라고 강 팀장은 분석했다.
SKT가 내부적으로 ‘1인 1 에이전트’ 문화를 추진하면서도 가장 힘을 쏟는 부분이 바로 이 지점이다. 기술 조직이 만들어 배포하는 방식이 아니라, 실제 업무를 아는 현업 담당자가 직접 만들고 프롬프트도 스스로 수정할 수 있어야 활용도가 높아진다는 것이다. 강 팀장은 “에이전트는 한 번 만들면 끝이 아니다. 현업 담당자가 상황에 맞게 계속 바꿔줘야 한다”고 강조했다.
강 팀장 본인도 직접 에이전트를 만들며 실험 중이다. 일례로 자기 업무 프로세스를 그릴 수 있어야 한다며 툴을 만들었다. 개인이 하는 업무를 텍스트로 쭉 적으면 프로세스 다이어그램을 그려주는 툴이다. 자신의 프로세스를 눈으로 보면서 어느 단계에 에이전트를 배치할지를 설계할 수 있다.
모델 경쟁에만 주목하는 시장의 시선과 달리, 그가 이끄는 SKT G.AI 팀의 관심은 고객이 어떻게 AI를 잘 활용할 것이냐에 있다. 한국 AI의 진짜 싸움터는 거기에 있다고 보고 있기 때문이다.
글. 바이라인네트워크
일명 심스키. 바이라인네트워크 공동대표 기자. 테크 전문가 인터뷰와 칼럼을 주로 씁니다. 테크가 우리 삶에 미치는 긍정적 부정적 영향을 설명하고자 합니다.