AI 코딩 메모리의 비결은 더 큰 instruction file이 아니라 — 더 작고 계층화된 지식이다

Source: Dev.to

큰 지시 파일의 문제

사람들은 종종 “내 AI가 모든 것을 잊어버린다”는 문제를 해결하려고 지시 파일을 거대하게 만들곤 합니다—예를 들어 CLAUDE.md(또는 .cursorrules 등)의 500, 1,000, 2,000줄.
연구에 따르면 컨텍스트가 너무 길어지면 AI 정확도가 떨어지고, 큰 파일에 파묻힌 지시는 무시됩니다. 그 결과 질문을 하기 전부터 컨텍스트 창을 차지하는 부풀린 파일이 됩니다.

실제로 효과적인 방법

반대 접근법이 더 효과적입니다: 관련 있을 때만 로드되는 작고 목표 지향적인 파일.

계층형 아키텍처

Tier 1 – Constitution

라우팅 테이블을 포함하고 있어 AI에게 각 정보를 어디서 찾는지 알려줍니다. 모든 것을 하나의 파일에 넣는 대신, Tier 1은 적절한 계층을 가리키기만 합니다.

Tier 2 – Living Memory

가장 자주 필요한 지시들을 즉시 사용할 수 있도록 보관합니다.

Tier 3 – Project Brains

각 프로젝트마다 별도 파일을 두어 프로젝트별 컨텍스트를 격리합니다.

Tier 4 – Knowledge Store

AI가 더 깊은 정보가 필요할 때 질의할 수 있는 검색 가능한 저장소입니다.

세션 메모리 (연속성 레이어)

대화 전반에 걸쳐 컨텍스트를 유지하고, 세션이 진행됨에 따라 적절한 계층을 연결하는 가벼운 레이어입니다.

배운 교훈

• 각 계층을 엄격히 예산 관리

  • Tier 1은 200줄, Tier 2는 50줄.
  • 제한은 품질을 우선시하도록 강제하고, 과잉 콘텐츠를 항상 로드되는 파일에 넣는 대신 오른쪽 계층으로 옮기게 합니다.

• AI가 추론할 수 있는 것은 저장하지 말 것

  • 파일 구조, 보이는 코드 패턴, git 히스토리는 이미 모델이 접근할 수 있습니다.
  • 명시적인 지시 없이는 AI가 틀릴 수 있는 정보만 저장합니다.

• 요약기 안전장치

  • 한 번에 50개의 세션을 처리하려던 비감독 요약기가 API 오류를 일으키고 전체 배치를 재시도하면서 일주일 토큰 예산의 3분의 1을 소모했습니다.
  • 해결책:
    1. 배치 제한을 5세션으로 설정.
    2. 완료된 세션을 다시 요약하지 않도록 처리 플래그 사용.
    3. 동시 실행을 방지하는 잠금 파일.

호환성

이 아키텍처는 Claude Code, Cursor, Copilot, Codex, Aider 등 지시 파일을 읽는 모든 도구와 호환됩니다. 파일 이름은 다를 수 있지만 계층형 접근 방식은 동일합니다.

저장소

템플릿과 자동 설정 스크립트를 포함한 전체 시스템이 GitHub에 공개되어 있습니다:
https://github.com/sms021/SuperContext

더 깊은 논의를 위한 초대

아키텍처, 세션 메모리 처리, 혹은 기존의 거대한 지시 파일을 이 계층 구조로 마이그레이션하는 방법 등에 대해 언제든지 자세히 물어보세요.