Source: Hacker News
https://github.com/firasd/vibesbench/blob/main/docs/ai-sycophancy-panic.md
https://news.ycombinator.com/item?id=46488396
38
61
죄송합니다만, 제공해 주신 URL의 내용을 직접 확인할 수 없습니다. 번역을 원하는 텍스트를 여기 채팅에 직접 붙여 주시면 한국어로 번역해 드리겠습니다.
Stateless vs. Stateful AI ChatGPT와 유사한 챗 모델은 stateless합니다: 각 API 호출은 독립적이며 모델은 다음을 가지고 있지 않습니다: - Persistent memory – 모든 것을 잊어버립니다.
TL;DR LLM은 문서, GitHub 저장소, StackOverflow, Reddit와 같은 자료를 학습합니다. 하지만 우리가 LLM을 계속 사용하면, 그들의 자체 출력이 이러한 플랫폼에 들어가게 됩니다...
TL;DR 저는 GPT‑2가 자체 출력으로부터 20세대에 걸쳐 학습하도록 강제했습니다. 20세대가 되자 모델은 의미적 볼륨의 66 %를 잃었고, 상태를 hallucinating 시작했습니다.
