두 달 전에 내린 결정에 대해 아직도 AI에게 상담할 수 있는 방법

Source: Dev.to

Introduction

실제 개발 작업에 AI를 사용한 지 몇 달이 지나면서, 나는 이상한 현상을 발견했다: 두 달 전에 내린 결정에 대해 AI에게 아직도 물어볼 수 있었다—추측이 아니라 구체적인 조언을 얻을 수 있었다. 이 글에서는 왜 가능한지, 그리고 이것이 AI 기억력과는 무관한 이유를 설명한다.

The Symptom

실제 프로젝트에서 몇 주 이상 AI를 사용해 본 사람이라면 다음과 같은 상황을 겪어봤을 것이다:

• AI가 이전 결정을 잊어버린다.
• 오래된 아이디어가 뜻밖에 다시 떠오른다.
• 롤백이 컨텍스트를 깨뜨린다.
• 왜 그런 결정을 내렸는지 기억이 나지 않는다.

이 문제들은 흔히 다음과 같은 원인으로 돌린다:

• 컨텍스트‑윈도우 제한
• 지속적인 기억력 부족
• 모델 자체의 한계

하지만 그 진단은 잘못됐다. 문제는 기억력이 아니라 컨텍스트이다.

How I Query the AI

나는 AI에게 과거 대화를 기억해 달라고 묻지 않는다. 훨씬 더 간단한 질문을 한다:

“과거 결정 로그를 살펴보고 XXX에 대해 조언해 주세요.”

결정이 언제 이루어졌는지 대략 기억한다면 힌트로 추가할 수도 있지만, 그렇지 않다면 전혀 언급하지 않는다. 엄격한 프롬프트도, 행동을 규정하는 긴 시스템 프롬프트도 사용하지 않는다. AI는 자유롭게 탐색하고, 추측하고, 실수를 할 수 있다. 제어 메커니즘은 AI가 접근할 수 있는 정보의 구조이며, 프롬프트가 아니다.

Decision History as the Single Source of Truth

역사는 결정만이 남는다. 나는 다음과 같은 것을 보존하지 않는다:

• 세션 로그
• 일일 노트
• 대화 전사본
• 미완성 생각

그 대신 **결정 차이점(decision diffs)**이라는 단일 진실 소스를 유지한다. 각 항목은 다음을 기록한다:

• 무엇을 결정했는가
• 왜 그렇게 결정했는가
• 무엇이 바뀌었는가
• 무엇이 해결되지 않았는가

결정으로 이어지지 않은 내용은 역사의 일부가 되지 않는다. 탐색 자체는 장려하지만, 이는 별도(실험, 탐색, 부분 설계, 실패 시도)로 저장되고 정식 기록으로 취급되지 않는다.

AI‑Generated Decision Records

결정 히스토리는 인간이 작성한 것이 아니라 AI가 생성한다. 이는 의도적인 선택이며, 그 이유는 다음과 같다:

• 인간은 역사를 다시 쓰고, 불확실성을 매끄럽게 정리하며, 미해결점을 제거하려는 경향이 있다.
• AI는 일어난 대로 결정을 포착하고, 불확실성을 보존하며, 열린 질문을 명시적으로 나열한다.

인간의 역할은 사실 정확성을 검증하고 오류를 수정하는 것뿐이다. 서술을 다듬지 않는다; 이 기록은 스냅샷이며 이야기가 아니다.

Reconstructing Context

두 달 전의 무언가에 대해 AI에게 물을 때, 우리 둘 다 기억에 의존하지 않는다. 대신 다음을 통해 컨텍스트를 재구성한다:

• 아직 존재하는 결정 히스토리
• 그 이후의 코드
• 형성된 계약(contracts)

그 외의 모든 것은 이미 필터링되어 사라졌다.

Git as Infrastructure

이 환경에서 Git은 단순히 코드 버전을 관리하는 것을 넘어선다. 또한 다음을 버전 관리한다:

• 결정들
• 추론 과정
• 협업 규칙

롤백은 단순히 코드를 되돌리는 것이 아니라 컨텍스트를 리셋하는 것이다. AI는 Git에 들어 있는 것만을 가지고 추론할 수 있다. Git 밖에 있는 것은 AI에게 존재하지 않는다.

이는 로깅 기법도, 프롬프트 엔지니어링 트릭도, AI 기억 기능도 아니다. 이것은 인프라스트럭처다. 장기적인 AI 협업에는 인프라가 필요하며, 그 인프라는 저장소에 존재한다.

Why This Matters

AI‑지원 개발에 관한 대부분의 논의는 프롬프트, 에이전트, 도구, 모델에 초점을 맞춘다. 장기적인 추론이 전혀 작동하지 않게 만드는 필수 조건에 대해서는 거의 언급되지 않는다. 이 문제는 실제 사용을 몇 주·몇 달 해보아야 비로소 드러나며, 그래서 지금 이 글을 쓰는 것이다.

몇 달 전의 결정을 아직도 AI에게 상담할 수 있다면, 그것은 상담할 가치가 있는 과거를 AI에게 제공했기 때문이다.

이 글은 Context as Infrastructure 시리즈의 일부이며—장기적인 AI 협업이 기억이 아니라 구조에 의존한다는 점을 탐구한다.