Neural Networks: 제로에서 히어로까지

기사 URL: https://karpathy.ai/zero-to-hero.html
댓글 URL: https://news.ycombinator.com/item?id=46485090
포인트: 32
댓글: 1

발행: 2주 전 (2026년 1월 4일 오후 02:02 GMT+9)

1 min read

Source: Hacker News

기사 세부 정보

ReLU 활성화 함수를 사용하기 이전 기사들에서는 역전파(back‑propagation)를 사용하고 그래프를 그려 값을 정확히 예측했습니다. 모든 예제는 …

번역할 텍스트를 제공해 주시겠어요?

딥넷의 Hessian의 역(inverse)을 벡터에 적용하는 것이 쉽다는 것이 밝혀졌다. 이를 단순히 수행하면 레이어 수 s에 대해 연산량이 세제곱으로 증가한다.

신경망 훈련 중 표현 불안정성 관찰 신경망 훈련 행동을 실험하면서, 나는 반복되는 패턴을 발견했다.