TTT-Discover는 추론 중 훈련을 통해 인간 전문가보다 2배 빠르게 GPU 커널을 최적화한다

Source: VentureBeat

Overview

스탠포드, 엔비디아, 그리고 Together AI의 연구원들이 매우 복잡한 문제에 대한 새로운 해결책을 찾아낼 수 있는 새로운 기법을 개발했습니다. 예를 들어, 그들은 인간 전문가가 만든 기존 최첨단 GPU 커널보다 2배 빠르게 실행되도록 중요한 GPU 커널을 최적화하는 데 성공했습니다. 이 기법은 TTT‑Discover 라는 이름으로, 트랜스포머 기반 모델과 강화 학습을 결합하여 가능한 커널 구현 공간을 자동으로 탐색합니다.

(기사의 나머지 부분에서는 방법론, 실험 결과 및 향후 하드웨어‑소프트웨어 공동 설계에 대한 잠재적 함의에 대한 자세한 내용이 이어집니다.)