왜 ChatGPT가 당신의 글을 끊어버리는가: Truncation이라고 불리는 숨겨진 AI 시스템과 우리가 그것을 멈춘 방법
Source: Dev.to
숨겨진 AI 시스템, 트렁케이션
모든 주요 AI 작문 도구(ChatGPT, Claude, Gemini, Copilot)는 시스템 수준에서 작동하는 동작을 가지고 있어, 여러분의 콘텐츠를 조용히 잘라냅니다. 허가를 구하지도, 경고도 하지 않으며, 마치 아무것도 빠지지 않은 것처럼 축소된 출력을 그대로 보여줍니다.
어떻게 발견했는가
AI 도움을 받아 30장, 114,000단어 규모의 소설을 만들던 중, 12장 무렵에 약 6,000단어가 되어야 할 장면이 약 1,500단어 수준으로 나오고 있음을 발견했습니다. 상세한 대화는 “그들은 상황에 대해 길게 논의했다”와 같은 요약 문장 하나로 축소되었고, 계획했던 캐릭터 순간들은 완전히 사라졌습니다.
오류 메시지나 경고는 없었고, 겉보기엔 완전한 장들처럼 보였습니다. 그러나 단어 수는 다른 이야기를 했습니다: 5,000단어 장을 요청했지만 약 1,400단어만 받았습니다.
모델 출력 제한
AI 모델에는 두 가지 용량 제한이 있습니다:
| Model | Max Output Tokens | Approx. Words |
|---|---|---|
| GPT‑4 Turbo | 4,096 | ~3,000 |
| GPT‑4o (standard) | 4,096 | ~3,000 |
| GPT‑4o (Long Output, API only) | 64,000 | ~48,000 |
| GPT‑5 | 128,000 | ~96,000 |
| Claude 3 Haiku / Sonnet / Opus | 4,096 | ~3,000 |
| Claude 3.5 Sonnet | 8,192 | ~6,100 |
| Claude Opus 4.6 | 64,000 | ~48,000 |
| Gemini 1.5 Pro | 8,192 | ~6,100 |
| Gemini 2.5 Pro (default) | 8,192 | ~6,100 |
| Gemini 2.5 Pro (max, API) | 65,536 | ~49,000 |
표준 AI 모델에 5,000단어 장을 쓰도록 요청하면 대부분 한 번의 응답으로 제공하지 못합니다. 요청이 모델의 출력 한도를 초과하면 트렁케이션이 자동으로 활성화됩니다.
메타데이터 가시성
개발자 API를 통해 트렁케이션이 발생하면 응답에 잘린 부분을 나타내는 메타데이터 필드가 포함됩니다:
- OpenAI:
finish_reason: "length" - Anthropic:
stop_reason: "max_tokens" - Google:
finishReason: "MAX_TOKENS"
웹 인터페이스(ChatGPT, Claude, Gemini)에서는 이 메타데이터가 숨겨져 있어 사용자는 내용이 손실되었는지 알 수 없습니다.
실용적인 완화 단계
- 출력마다 단어 수를 확인하십시오.
- 긴 요청을 스스로 작은 조각으로 나누세요.
- AI에게 전달한 내용이 무엇인지 확인하도록 요청하세요.
- **“Continue from [exact quote]”**와 같이 구체적인 인용문을 사용하고, 애매한 “Continue”는 피하세요.
- 실제 내용 대신 요약 문장이 들어가는지 주의 깊게 살펴보세요.
Bulletproof Writer v3.1의 트렁케이션 방어
소설 작업 경험을 바탕으로 우리는 AI 작문 도구에 직접 트렁케이션 방어라는 방어 시스템을 구축했습니다. 이는 여러 계층에서 작동합니다:
- 사전 계산 – 작성이 시작되기 전에 요청된 내용이 모델 출력 용량에 맞는지 추정합니다.
- 청크 프로토콜 – 과도하게 큰 요청을 계산된 구간으로 나누고, 명확한 연속 표시자를 삽입해 공백, 중복, 요약 연결을 방지합니다.
- 무관용 시행 – AI에게 절대 조용히 트렁케이션, 압축, 요약, 혹은 창작 내용을 짧게 만들지 않도록 지시합니다.
- 트렁케이션 감지 – 각 출력 후 전달된 단어 수를 의도된 수와 비교해 부족분을 즉시 표시합니다.
AI로 3,000단어 정도 이상을 쓰고 있다면, 트렁케이션으로 인해 내용이 손실되고 있을 가능성이 높습니다. 중요한 것은 이것이 일어나고 있는가가 아니라, 여러분이 이미 얼마나 많은 내용을 모르게 잃었는가입니다.
Bulletproof Writer v3.1은 90개 이상의 AI 작문 출력 무결성 규칙과 함께 트렁케이션 방어를 포함하고 있습니다.