[논문] 합성 벤치마크가 Forward‑Forward 스케일링을 과대평가: 실제 데이터가 드러낸 레이어‑로컬 학습 한계
개요
Forward-Forward (FF) 학습[Hinton, 2022]은 역전파를 완전히 층별 지역성(goodness) 업데이트로 대체합니다. 최근 FF‑CNN 연구는 32×32 벤치마크에서 역전파(BP)와의 격차를 크게 줄였으며, 이는 실제 규모에서도 층별 지역 학습이 실용적인 대안이 될 수 있는지에 대한 질문을 제기합니다. 이를 엄밀히 검증하기 위해 우리는 DTG‑FF—동적 온도(goodness), 분리 정규화, 다층 융합—를 개발했으며, 이를 통해 9개의 실제 데이터 벤치마크에서 FF 계열의 최첨단 성능을 달성했습니다(예: CIFAR‑10 91.8%, ImageNet‑100 224×224에서 최초 FF 베이스라인). 또한 이를 이용해 층별 지역 학습이 실제로 얼마나 확장 가능한지 평가했습니다.
-
실제 데이터 확장성
동일한 레시피와 백본을 사용했을 때, 아키텍처가 일치하는 BP‑DeepSup 베이스라인이 CIFAR‑10/CIFAR‑100에서 각각 2.40·5.93 퍼센트포인트 더 높은 성능을 보였으며, 클래스 수가 늘어날수록 격차가 확대됩니다. 224×224 해상도에서는 동일한 도구가 49.4%에 머물러—이 규모에서 최초 FF 베이스라인이며, 일반적인 BP는 75% 이상[티안 등, 2020]을 기록합니다—이는 32×32에서는 보이지 않던 실제 데이터 상한을 드러냅니다. -
합성 vs. 실제 K‑conflict
합성 교사‑학생 과제에서 클래스 수 K가 증가할수록 DTG‑FF는 BP보다 점점 더 우수해지지만, 실제 이미지에서는 FF‑BP 격차가 부호가 바뀌고 K가 커질수록 확대됩니다. CIFAR‑100 데이터셋 내에서 거친 라벨과 세밀한 라벨을 비교하는 실험은 라벨 계층 구조를 이미지 분포와 분리합니다: 합성 K‑스윕은 출력 차원과 미세 구분 난이도를 혼동시켜 FF의 전이 가능성을 과대평가합니다. -
시스템 감사
FF는 깊이 전체 활성값을 저장하지 않아도 구현이 가능하지만, 일반적인 8 GB 하드웨어에서 표준 BP + 그라디언트 누적은 4.18 GB / 초당 157 이미지의 메모리·속도를 보이는 반면, DTG‑FF는 7.90 GB / 초당 138 이미지에 불과합니다. 따라서 공정한 베이스라인 하에서 이 규모에서는 메모리 절감만으로 FF를 정당화하기 어렵습니다.
주요 기여
이 논문은 다음 분야의 연구를 제시합니다:
- cs.CV
- cs.AI
- cs.LG
- cs.NE
방법론
자세한 방법론은 전체 논문을 참고하십시오.
실용적 함의
본 연구는 cs.CV 분야의 발전에 기여합니다.
저자
- Yucheng Chen
논문 정보
- arXiv ID: 2606.06539v1
- 분류: cs.CV, cs.AI, cs.LG, cs.NE
- 발표일: 2026년 6월 4일
- PDF: PDF 다운로드