[논문] 학습 역학이 가중치 기반 층별 그램 메트릭의 계층 구조를 밝혀냈다

출처: arXiv - 2606.09744v1

개요

우리는 고정된 리드아웃과 이차 손실을 갖는 피드포워드 ReLU 네트워크를 연구한다. 목표는 경사 하강법을 주로 가중치 공간의 동역학으로 보는 것이 아니라, 훈련 데이터 집합 공간에 정의된 필드들만으로 닫힌 집합적 동역학으로 재구성하는 것이다. 단일 은닉층의 경우, 활성화 동역학에서 가중치 변수를 제거할 수 있어, 입력 기하학 행렬과 동적 공동활성화 행렬로 인수분해되는 집합 커널에 의해 제어되는 잔차에 대한 닫힌 방정식을 얻는다. 더 깊은 네트워크에서는 잔차 동역학이 층별 커널 구조를 깔끔하게 유지한다. 그러나 깊이가 세 층 이상이 되면, 폐쇄성을 확보하기 위해 층 간 정보 전달을 매개하는 가중치 유도 그램 연산자들의 계층이 필요하다.

주요 기여

이 논문은 다음 분야의 연구를 제시한다:

• cs.LG
• cond-mat.dis-nn

방법론

자세한 방법론은 전체 논문을 참조하십시오.

실용적 함의

이 연구는 cs.LG 분야의 발전에 기여합니다.

저자

• Claudio Nordio

논문 정보

• arXiv ID: 2606.09744v1
• Categories: cs.LG, cond-mat.dis-nn
• Published: June 8, 2026
• PDF: PDF 다운로드