[논문] GPU 기반 적합도 평가를 활용한 GP‑GOMEA: 설계 및 성능 분석

출처: arXiv - 2605.30954v1

개요

이 논문은 GP‑GOMEA의 최초 GPU 가속 버전을 제시한다. GP‑GOMEA는 심볼릭 회귀 분야에서 선두적인 진화 알고리즘이다. 비용이 많이 드는 적합도 평가 단계를 GPU로 옮김으로써 저자들은 수십 배에 달하는 속도 향상을 달성했으며, 이를 통해 이전보다 훨씬 큰 데이터셋과 복잡한 목표 식을 다루는 것이 가능해졌다.

주요 기여

• GPU 친화적 표현: GP‑GOMEA의 템플릿 기반 개체를 GPU 메모리 레이아웃에 자연스럽게 매핑할 수 있는 고정 크기 배열 형태로 재구성.
• 평가 파이프라인: 최신 GPU의 대규모 데이터 병렬성을 활용하여 초당 수행되는 적합도 호출 수를 크게 증가시킴.
• 실증 연구: 네 개의 벤치마크 심볼릭 회귀 문제에 대해 실험을 수행, 특히 큰 집단과 방대한 데이터셋에서 현저한 성능 향상을 확인.
• 새로운 분석 능력: 가속된 엔진을 이용해 표현식 구조(깊이, 연산자, 상수)가 탐색 난이도에 미치는 영향을 체계적으로 조사할 수 있게 됨.
• 대형 Feynman 물리 방정식 최초 성공적 회귀: 문제에 특화되지 않은 진화 알고리즘을 사용해 4시간 이내의 실시간 제한 안에서 가장 어려운 벤치마크 중 하나를 해결.

방법론

1. 개체 인코딩 – 기존 GP‑GOMEA는 개체를 원시 연산 트리 형태로 저장한다. 저자들은 이를 템플릿으로 재설계하여 고정 크기 배열로 평탄화하고, GPU 메모리 구조에 깔끔히 매핑한다.
2. 배치 적합도 평가 – CPU에서 하나씩 프로그램을 평가하던 방식을 버리고, 전체 집단을 GPU로 스트리밍한다. 각 스레드는 하나의 개체에 대해 데이터 포인트의 일부를 계산하고, 감소 연산을 통해 오류(예: 평균 제곱 오차)를 집계한다.
3. 병렬성 활용 – 두 단계의 병렬성을 적용한다: (a) 개체 수준(집단 수준)과 (b) 데이터 포인트 수준(샘플 수준). 이는 GPU의 SIMD 실행 모델과 일치하며 메모리 지연을 숨긴다.
4. GP‑GOMEA와의 통합 – 진화 루프의 나머지 부분(선택, 변이, 모델 구축)은 CPU에서 수행하지만, 병목인 적합도 단계만 GPU로 오프로드한다. 세대 간 데이터를 GPU에 상주시켜 통신 오버헤드를 최소화한다.
5. 실험 설정 – 네 개의 표준 심볼릭 회귀 벤치마크(합성 및 실제 데이터셋 포함)를 인구 규모 1 k–10 k, 데이터셋 규모 10 k–1 M 포인트로 다양하게 실행한다. 실행 시간, 평가 처리량, 최종 오류를 기록한다.

결과 및 발견

수치가 의미하는 바

• 처리량: GPU 버전은 초당 수백만 개의 개체‑데이터 포인트 평가를 수행한다. 중간 규모 문제에서 30분 걸리던 CPU 실행을 1분 이내의 GPU 실행으로 단축한다.
• 해결 품질: 평가가 빨라짐에 따라 동일한 실시간 예산 내에서 더 큰 집단과 더 많은 세대를 실행할 수 있어, 일관되게 약간 더 낮은 오류의 모델을 얻는다.
• 확장성: 데이터셋 규모가 커질수록 이점이 커진다. 2 M 포인트 Feynman 벤치마크에서는 CPU 버전이 실용적인 시간 안에 끝나지 않지만, GPU 버전은 약 4시간에 완료한다.
• 통찰 생성: 더 많은 실험을 수행할 수 있게 됨에 따라, 깊이, 비선형 연산자 수, 상수 사용량이 수렴에 필요한 평가 횟수와 어떻게 상관관계가 있는지를 지도화했다.

실용적 함의

• 데이터 집약적 심볼릭 회귀 – 물리학·화학 등 과학적 발견을 목표로 하는 팀은 이제 거대한 측정 데이터셋에 대해 GP‑GOMEA를 비용 부담 없이 적용할 수 있다.
• 대규모 모델 해석 가능성 – GP‑GOMEA는 여전히 간결하고 인간이 읽을 수 있는 식을 선호하므로, 규제·설명 가능성 요구가 있는 경우 블랙박스 신경망을 투명한 모델로 대체할 수 있다.
• ML 파이프라인 통합 – GPU 기반 적합도 엔진을 기존 AutoML 프레임워크에 플러그인 형태로 삽입하면, 진화 기반 심볼릭 회귀와 그래디언트 기반 학습기를 결합한 하이브리드 파이프라인을 손쉽게 구성할 수 있다.
• 클라우드 비용 효율성 – 대부분의 클라우드 제공업체가 GPU를 기본 옵션으로 제공하므로, 단일 GPU를 포화시키는 알고리즘은 다수의 CPU 노드를 확장하는 것보다 시간당 비용이 낮다.
• 연구 도구 – 가속된 플랫폼은 GP 탐색 동역학에 대한 체계적 연구를 가능하게 하여, 더 나은 변이 연산자나 적응형 인구 전략 설계에 기여한다.

한계 및 향후 연구

• CPU‑제한 진화 연산자 – 적합도 평가는 GPU 가속이 되었지만, 선택·모델 구축·변이 등은 여전히 CPU에서 실행되어 매우 큰 인구에서는 병목이 될 수 있다.
• 메모리 사용량 – 템플릿 표현을 GPU에 저장할 경우 차원이 높은 문제에서는 VRAM이 부족해질 수 있다. 저자들은 계층적 배치를 통해 이를 완화할 것을 제안한다.
• 하드웨어 의존성 – 성능 향상은 최신 CUDA 지원 GPU에 국한되며, 구형 또는 비 NVIDIA 장치에서는 개선 효과가 제한적일 수 있다.
• 향후 방향 – (1) 진화 루프의 추가 단계들을 GPU로 옮기고, (2) 혼합 정밀도 연산을 도입해 처리량을 더욱 높이며, (3) 다중 GPU 및 분산 환경으로 확장해 진정한 대규모 심볼릭 회귀 작업을 지원할 계획이다.

저자

• Jasper Post
• Johannes Koch
• Anton Bouter
• Tanja Alderliesten
• Peter A. N. Bosman

논문 정보

• arXiv ID: 2605.30954v1
• 분류: cs.NE
• 발표일: 2026년 5월 29일
• PDF: PDF 다운로드