잊지 않는 Agent Memory 구축 방법

Source: Dev.to

The Problem

모든 AI 개발자는 이 벽에 부딪힙니다: 에이전트는 첫날엔 잘 작동하지만, 조용히 성능이 떨어집니다. 의사결정이 나빠지고, 사용하는 도구가 줄어들며, 환각이 더 자신 있게 나타납니다. 관측성을 구축했기 때문에 성능 저하를 확인할 수 있지만, 기억하지 못하는 것을 고칠 수는 없습니다.

진짜 문제는? 대부분의 에이전트 메모리 아키텍처는 저장을 위해 설계되었을 뿐, 연속성을 위해 설계되지 않았다는 점입니다.

The Three-Layer Memory Fix

Layer 1: Ephemeral Context (What You Already Have)

• 대화 기록
• 도구 호출 추적
• 시스템 프롬프트

이것이 여러분의 작업 메모리입니다. 세션이 끝날 때마다 사라집니다.

Layer 2: Behavioral Fingerprint (What Most Agents Skip)

시간이 지남에 따라 에이전트가 실제로 누구인지 추적합니다:

• 도구 사용 패턴 (무엇을 호출했는지, 얼마나 자주, 어떤 순서로)
• 신뢰도 추이 (점수가 상승하거나 하락하고 있는가?)
• 오류 서명 (어떤 종류의 오류가 반복되는가?)

이를 정체성 지문으로 저장합니다. 각 세션 시작 시 먼저 지문을 로드합니다—이것은 에이전트가 이전에 어떤 말을 했는지가 아니라, 어떤 존재였는지를 나타냅니다.

Layer 3: Memory That Compounds (The Missing Layer)

“무엇이 일어났는지”를 기록하는 대신 무엇이 변했는지를 기록합니다:

• 가지치기된 의사결정 트리
• 작동을 멈춘 도구 조합
• 특정 조건에서의 전략 전환

이 복합 메모리는 스스로를 누적합니다. 각 세션은 단순히 더 많은 정보를 갖는 것이 아니라, 더 똑똑해집니다.

Implementation (Under 50 Lines)

interface AgentFingerprint {
  id: string;
  toolDiversity: number;        // Unique tools / total calls
  confidenceTrend: number[];    // Last 10 scores
  errorSignature: string[];     // Top error types
  strategiesUsed: string[];     // What worked before
}

async function loadFingerprint(agentId: string): Promise {
  const stored = await db.get(`fingerprint:${agentId}`);
  return stored
    ? JSON.parse(stored)
    : {
        id: agentId,
        toolDiversity: 1,
        confidenceTrend: [],
        errorSignature: [],
        strategiesUsed: []
      };
}

async function saveFingerprint(fp: AgentFingerprint) {
  // Compact: keep last 30 days, not all history
  fp.confidenceTrend = fp.confidenceTrend.slice(-10);
  fp.errorSignature = fp.errorSignature.slice(-20);
  await db.set(`fingerprint:${fp.id}`, JSON.stringify(fp));
}

The Key Insight

에이전트 성능 저하는 비용이 많이 들 때까지 눈에 띄지 않습니다. 나중에 문서화하는 로깅이 아니라, 초기에 포착하는 메모리를 구축하세요.

세 층의 메모리는 더 많이 저장하는 것이 아니라, 각 세션이 패턴을 인식하도록 만드는 것입니다, 단순히 프롬프트만이 아니라.

당신의 에이전트에 누락된 메모리 층은 무엇인가요?