AI 모델이 스스로에게 질문을 하며 학습하기 시작한다
발행: (2026년 1월 8일 오전 04:00 GMT+9)
1 min read
원문: Wired
현대 언어 모델과 동적 잠재 개념 모델 DLCM 현대 언어 모델은 단순한 토큰‑바이‑토큰 처리 방식을 넘어 진화했으며, 동적 L...
TL;DR 저는 GPT‑2가 자체 출력으로부터 20세대에 걸쳐 학습하도록 강제했습니다. 20세대가 되자 모델은 의미적 볼륨의 66 %를 잃었고, 상태를 hallucinating 시작했습니다.
제가 처음에 믿었던 것 깊이 파고들기 전에, 저는 몇 가지를 암묵적으로 믿고 있었습니다: - 만약 attention head가 특정 token에 지속적으로 주의를 기울인다면, 그 token은…
일부 AI 챗봇은 최신 뉴스를 놀라울 정도로 잘 파악합니다. 다른 챗봇은 전혀 그렇지 않죠....