[Paper] 플라톤식 표현 가설 재검토: 아리스토텔레스적 관점

Source: arXiv - 2602.14486v1

Overview

이 논문은 오랫동안 제기되어 온 Platonic Representation Hypothesis—아키텍처나 학습 데이터와 무관하게 심층 신경망이 결국 공통된 “현실의 통계 모델”을 학습한다는 아이디어—를 재검토한다. 저자들은 널리 사용되는 유사도 측정법이 네트워크 크기에 편향되어 있음을 보여주고, 엄격한 보정 기법을 도입하며, 정제된 Aristotelian Representation Hypothesis를 제안한다: 수렴은 전역 기하학이 아니라 local neighborhood relationships 수준에서 발생한다.

주요 기여

• 메트릭 편향 진단: 깊이와 너비가 표현 유사도 점수를 체계적으로 부풀려 이전 결론을 혼동시킨다는 것을 보여줍니다.
• Null‑Calibration 프레임워크: 임의화 기반 방법으로, 모든 유사도 메트릭을 통계적 보장이 있는 보정된 점수로 변환합니다.
• 수렴성 재평가: 보정 후 전역 스펙트럴 유사도는 대부분 사라지는 반면, 지역 이웃 구조는 모달리티 전반에 걸쳐 일관성을 유지합니다.
• 아리스토텔레스 가설: 신경 표현이 보편적인 전역 임베딩이 아니라 공유된 지역 관계 패턴으로 수렴한다는 개념을 정형화합니다.
• 오픈‑소스 툴킷: 보정 절차를 위한 코드를 제공하며, 기존 표현 유사도 분석(RSA) 파이프라인에 바로 적용할 수 있습니다.

방법론

1. 데이터셋 및 모델: 저자들은 ImageNet 및 여러 다운스트림 작업(분류, 세그멘테이션, 자체 지도 대비 학습)에서 깊이 = 5–101층, 폭 = 64–1024채널을 갖는 다양한 컨볼루션 및 트랜스포머 기반 비전 모델을 학습한다.
2. 베이스라인 유사도 지표: 표준 RSA 점수—Centered Kernel Alignment (CKA), 활성화 행렬의 Pearson 상관, 그리고 공분산 고유 스펙트럼의 스펙트럴 유사도를 계산한다.
3. 퍼뮤테이션 기반 영(Null) 보정:
   • 각 레이어 내에서 뉴런 인덱스를 무작위로 퍼뮤테이션하여 실제 관계 구조는 파괴하고 주변 통계는 유지한다.
   • 퍼뮤테이션된 각 쌍에 대해 유사도 지표를 다시 계산하여 영 분포를 만든다.
   • 원래 지표를 보정된 p‑value 또는 z‑score로 변환하여 네트워크 규모와 무관하게 우연으로부터 얼마나 벗어나는지를 나타낸다.
4. 지역 vs. 전역 분석:
   • 전역: 모델 간 전체 레이어 활성 스펙트럼을 비교한다.
   • 지역 이웃: 각 자극에 대해 활성화 공간에서 k‑최근접 이웃(k = 5–20)을 추출하고 모델 간 겹침을 비교한다.
   • 지역 거리: 이웃에 대한 절대 거리를 조사(멤버십만이 아니라)하여 미세 기하학이 정렬되는지를 테스트한다.

결과 및 발견

요약하면, 스케일 편향을 제거하면 예제들이 서로 가깝게 위치하는 패턴만이 아키텍처와 학습 방식 전반에 걸쳐 안정적으로 유지됩니다. 정확한 기하학(거리)은 유지되지 않습니다.

실용적 함의

• 모델 진단 및 전이: 개발자는 보정된 RSA를 사용하여 두 모델이 실제로 유용한 내부 표현을 공유하는지 감지할 수 있으며, 이는 모델 증류, 앙상블, 전이 학습에 가치가 있다.
• 아키텍처 탐색: 전역 유사성이 신뢰할 수 없기 때문에, 지역 이웃 구조를 보존하는 데 초점을 맞추는 것이 네트워크를 프루닝하거나 압축할 때 더 좋은 대안이 될 수 있다.
• 견고한 특징 추출: “범용” 임베딩(예: 제로‑샷 검색)에 의존하는 도구는 전역 통계와 일치시키기보다 이웃 관계를 유지하는 방법을 우선시해야 한다.
• 벤치마크 설계: 향후 표현‑벤치마크 스위트(예: Brain‑Score, NeuroBench)는 교차 모델 일치를 과대평가하지 않도록 보정 단계를 포함할 수 있다.

제한 사항 및 향후 연구

• 모달리티 범위: 이 연구는 비전 모델에 집중하고 있으며, 보정 작업을 언어 또는 멀티모달 네트워크로 확장하는 것은 아직 열려 있습니다.
• 순열 영 가정: 뉴런을 무작위로 순열하면 모든 구조가 파괴되는데, 이는 특정 아키텍처(예: 트랜스포머의 가중치 공유)에는 과도하게 보수적일 수 있습니다.
• 확장성: 매우 큰 모델(예: 10억 개 이상의 파라미터)에 대해 보정된 점수를 계산하는 것은 계산 비용이 많이 들 수 있으며, 근사 영 샘플링 전략이 필요합니다.
• 이론적 근거: 아리스토텔레스 가설은 경험적으로 동기 부여되었지만, 지역 이웃 수렴과 다운스트림 작업 성능을 연결하는 공식적인 이론은 아직 부족합니다.

핵심: 유사도 메트릭의 숨겨진 편향을 교정함으로써, 이 연구는 표현 수렴에 대한 우리의 사고 방식을 재구성합니다—높은 “플라톤 이상”에서 보다 실질적이고 지역적으로 일관된 관점으로 초점을 전환하여, 딥러닝 시스템을 구축하고 비교하는 개발자들에게 즉각적인 관련성을 제공합니다.

저자

• Fabian Gröger
• Shuo Wen
• Maria Brbić

논문 정보

• arXiv ID: 2602.14486v1
• 분류: cs.LG, cs.AI, cs.CV, cs.NE
• 출판일: 2026년 2월 16일
• PDF: PDF 다운로드