기지국에 딱 맞는 AI 모델: On‑Site Training과 추론 가속화

Source: Samsung Tech Blog

Samsung Research 차세대통신연구센터에서는 AI‑RAN 시대를 준비하기 위해 기지국 내 모델 추론 가속화 및 On‑Site Training 기술을 연구하고 있습니다. 이 글에서는 무선 접속 네트워크의 환경 특성과 제약사항을 설명하고 이를 해결한 경험을 소개합니다.

이 글은 Samsung Developer 채널의 [STC25] 기지국에 딱 맞는 AI모델: On‑Site Training과 추론 가속화 영상을 바탕으로 작성되었습니다.

들어가며

Samsung Research 차세대통신연구센터에서는 AI‑RAN 시대를 준비하기 위해 기지국 내 모델 추론 가속화 및 On‑Site Training 기술을 연구하고 있습니다. 이 글에서는 Radio Access Network의 환경 특성과 제약사항을 설명하고 이를 해결한 경험을 소개합니다.

AI‑RAN이란?

AI‑RAN은 스마트폰과 기지국 사이의 무선 통신망(RAN, Radio Access Network)에 인공지능(AI) 기술을 결합한 차세대 통신 기술을 의미합니다. 최근 AI‑RAN Alliance는 세 개의 워킹 그룹(WG)을 통해 지능형 네트워크 연구를 수행하고 있습니다.

• AI‑for‑RAN WG: 주파수 효율 향상·네트워크 운용 비용 절감 등을 위해 AI를 활용해 무선 통신 자체의 성능을 높이는 기술을 연구합니다.
• AI‑and‑RAN WG: 효율적인 리소스 관리·인프라 활용 극대화를 위해 무선 통신 인프라를 AI 구동 용도로 활용하는 방안을 연구합니다.
• AI‑on‑RAN WG: 무선 망 기반의 신규 AI 애플리케이션·서비스 발굴을 위한 기술을 연구합니다.

Samsung Research 차세대통신연구센터는 통신 성능 향상을 넘어 네트워크 전 영역에 AI 적용을 목표로 연구하고 있습니다. 처음으로 RAN에서 기지국 개별 맞춤형 AI 모델과 학습·추론 모듈을 개발한 경험을 공유합니다.

통신망은 빠르고 리소스 제약이 많은 실시간 컴퓨팅 환경 중 하나이며, AI 모델이 의도대로 동작하려면 이러한 특수한 환경을 이해해야 합니다. 기지국은 이미 많은 CPU 리소스를 통신 처리에 사용하고 있어 AI 추론·학습을 위한 전용 리소스 할당이 어렵습니다. 기존 로직 + 추론에 소요되는 시간이 0.5 ms 이내여야 하므로 일반적인 AI 모델보다 매우 빠른 추론이 필요합니다. 또한 기지국마다 GPU 등 추가 하드웨어 설치·운영 비용을 최소화해야 하며, 리소스 증설 없이 AI 모델을 적용하기 위해 모델을 경량화·최적화해야 합니다.

기지국 맞춤형 AI 모델을 위한 ‘On‑Site Training’

AI‑RAN에 AI 모델을 적용할 때 현실적인 문제 중 하나는 기지국이 설치된 환경마다 통신 데이터 특성이 다르다는 점입니다. 지역별 특성이 상이하기 때문에 각 기지국 환경에서 지속적으로 현장 데이터를 학습해 모델을 업데이트하는 것이 중요합니다.

• 도심: 고층 건물로 인한 음영 구역·다중 경로 현상이 발생합니다. 이를 처리할 수 있는 AI 모델을 적용하면 간섭 회피에 도움이 됩니다.
• 교외: 넓은 서비스 범위와 사용자 위치에 따른 신호 품질 차이가 존재합니다. AI 모델을 통해 지형·사용자 분포에 맞는 전력 제어를 실현하면 신호 품질을 고르게 향상시킬 수 있습니다.
• 고속도로 주변: 차량 이동 속도가 빨라 기지국 전환이 빈번합니다. 이동 패턴 예측·전환 타이밍 판단 AI 모델을 적용하면 지연을 줄일 수 있습니다.

프레임워크 적용 방안 – 유휴 시간대 리소스 활용

일반적으로 기지국은 주간에 사용률이 높고 심야에는 트래픽이 감소합니다. 저희 팀은 심야 유휴 리소스를 엣지 컴퓨팅 인프라로 활용하는 데 초점을 맞추었습니다. CPU 사용률이 낮은 시간대(심야)에 남는 CPU를 모델 학습에 사용함으로써 통신 품질(QoS) 저하·지연 증가 없이 AI 모델 정확도를 유지하거나 개선할 수 있었습니다.

AI for RAN 구현 목표와 기대 효과

AI for RAN은 AI를 통해 RAN 성능을 높이는 것을 목표로 합니다. 저희 팀은 사용량이 많은 시간에 AI 추론·데이터 수집을 수행하고, 유휴 시간에 모델 학습을 진행해 최신 통신 패턴을 학습·최적 파라미터를 확보했습니다. 이를 통해 기지국이 더 많은 사용자를 안정적으로 수용하고 전송하는 유효 데이터를 늘릴 수 있습니다.

적용한 AI 추론 가속화 기술

기지국은 밀리초(ms) 단위의 실시간 처리를 수행합니다. 초기 AI 모델은 기존 통신 연산과 함께 지정된 시간 내에 추론을 처리해야 했으며, 이를 위해 추론 가속화가 필수적이었습니다. 현재 대부분의 기지국은 GPU가 없는 인텔 CPU 기반 서버를 사용합니다. 인프라를 유지하면서 CPU만으로 추론을 수행하기 위해 다양한 최적화 방법을 적용했습니다.

SIMD 기반 최적화

SIMD(Single Instruction, Multiple Data) 최적화를 통해 레지스터를 활용한 동시 연산으로 반복 처리를 극대화하고, 데이터 정렬·메모리 연속성을 개선해 캐시 적중률을 높였습니다. 실험 환경에서는 Intel® AVX‑512(Advanced Vector Extensions 512) 명령어 집합을 사용해 512비트 레지스터 기반 벡터 연산으로 빠른 연산 속도를 확보했습니다.

AMX 매트릭스 연산 활용

Intel® Xeon® Scalable Processors에 도입된 Intel® AMX(Advanced Matrix Extensions) 매트릭스 연산 명령어 집합을 실험했습니다. 특정 조건에서 합성곱 연산 성능이 3배 이상 향상되어, GPU가 없는 기지국에서도 복잡한 AI 모델을 적용할 수 있음을 확인했습니다. AMX를 통해 기존 스칼라 연산 대비 추론 속도가 크게 단축되면서도 정확도·통신 성능을 유지하고, 동일 하드웨어에서 더 많은 트래픽을 처리할 수 있었습니다.

마무리하며: 기지국 맞춤형 AI 모델을 위한 4가지 핵심 요소

본 프로젝트는 기지국 AI 모델이 현장에 성공적으로 안착하고 지속적으로 진화할 수 있도록 네 가지 핵심 요소를 중심으로 개발되었습니다. 향후 이를 통합할 수 있는 프레임워크를 구축할 예정입니다.

1. RAN 제약사항을 해결하는 최적화 기술

   • GPU가 없는 환경을 고려해 CPU 기반 SIMD 병렬 처리와 AMX 매트릭스 연산을 적용, 통신 성능과 AI 추론 속도의 균형을 확보했습니다.

2. H/W 변경에 대응 가능한 설계

   • 추론 가속화 라이브러리는 레지스터 용량·데이터 타입 등 하드웨어 특성을 반영해 설계되었으며, 향후 새로운 명령어 집합에도 유연하게 대응할 수 있습니다.

3. 다양한 통신 시나리오에 대응하는 On‑Site Training

   • 심야 유휴 리소스를 활용해 현장 데이터를 학습·미세 조정함으로써 프레임워크가 다양한 시나리오에 스스로 대응하고 정확도를 지속적으로 향상시킵니다.

4. 기지국 S/W 연동이 쉬운 프레임워크

   • AI 기능을 기존 통신 소프트웨어와 이질감 없이 동작하도록 설계한 통합 프레임워크를 구축해, 기지국 S/W·H/W와 쉽게 연동하고 실시간 통신과 AI 추론이 안정적으로 공존하도록 합니다.

Samsung Research 차세대통신연구센터는 모든 기지국이 리소스를 효율적으로 활용해 AI와 통신이 원활히 공존하도록 **‘지능형 기지국(Intelligent Node)’**을 만들어 나갈 계획입니다.

감사합니다.