1주 전 · ai

[Paper] Gated KalmaNet: 테스트 시점 릿지 회귀를 통한 페이딩 메모리 레이어

softmax Attention의 효율적인 대안으로서, 선형 상태공간 모델(linear state-space models, SSMs)은 일정한 메모리와 선형 연산을 달성하지만, 손실이 있는, 점점 사라지는 s...