LLM에 대한 Task-free 지능 테스트

기사 URL: https://www.marble.onl/posts/tapping/index.html
댓글 URL: https://news.ycombinator.com/item?id=46545587
포인트: 11

발행: 1개월 전 (2026년 1월 9일 오전 04:51 GMT+9)

1 분 소요

Source: Hacker News

기사 세부 정보

LLM 출력은 때때로 안정적으로 느껴집니다. 때때로 갑자기 무작위가 됩니다. 종종 바뀐 것은 매개변수 하나뿐입니다. 그렇다면 실제로 순간에 무슨 일이 일어나는 걸까요...

번역하려는 텍스트를 직접 제공해 주시겠어요? 해당 내용을 알려주시면 한국어로 번역해 드리겠습니다.

번역할 텍스트가 제공되지 않았습니다. 번역을 원하는 내용(발췌 또는 요약)을 알려주시면 한국어로 번역해 드리겠습니다.

우리 LLM API 청구액은 월간 대비 30%씩 증가하고 있었습니다. 트래픽도 증가하고 있었지만 그 정도는 아니었습니다. 쿼리 로그를 분석했을 때, 실제 문제를 발견했습니다: 사용자들이 …