AI 에이전트 메모리 마스터하기: 파워 유저를 위한 아키텍처

Source: Dev.to

AI 에이전트에서 메모리가 중요한 이유

메모리가 없는 AI 에이전트는 기억상실증에 걸린 인간과 같습니다—과거 상호작용으로부터 학습하지 못하고, 새로운 정보를 적용하지 못하며, 시간에 걸쳐 컨텍스트를 유지하지 못합니다. 파워 유저에게 이는 다음을 의미합니다:

• 컨텍스트 유지 – 연속성을 유지하기 위해 과거 상호작용을 기억합니다.
• 경험을 통한 학습 – 관련 데이터를 저장하고 검색하여 향후 응답을 개선합니다.
• 개인화 – 시간에 따라 사용자 선호와 행동에 맞게 적응합니다.

AI 에이전트 메모리의 핵심 구성 요소

프로덕션 급 메모리 아키텍처는 일반적으로 세 가지 계층으로 구성됩니다:

• 단기 메모리 – 현재 세션을 위한 활성 컨텍스트.
• 장기 메모리 – 지식과 경험을 위한 영구 저장소.
• 작업 메모리 – 단기와 장기 메모리를 연결하는 하이브리드 계층.

단기 메모리: 활성 컨텍스트

단기 메모리는 현재 대화 또는 작업 컨텍스트를 보관합니다. 휘발성으로 세션이 종료되면 삭제되며, 빠른 접근을 위해 최적화되어 있습니다.

class ShortTermMemory:
    def __init__(self):
        self.context = []

    def add(self, message):
        self.context.append(message)
        if len(self.context) > 10:  # Limit context window
            self.context.pop(0)

    def get(self):
        return self.context

주요 고려 사항

• 컨텍스트 윈도우 크기 – 너무 크면 성능이 저하되고, 너무 작으면 연속성이 손실됩니다.
• 관련성 필터링 – 모든 과거 메시지가 동일하게 중요한 것은 아닙니다. 임베딩을 사용해 관련성을 순위 매기세요.

장기 메모리: 지식 베이스

장기 메모리는 사용자 선호, 과거 결정, 학습된 패턴 등 영구 데이터를 저장합니다. 여기서 AI는 경험으로부터 “학습”합니다.

파일 구조 예시

memory/
├── user_preferences.json
├── interaction_history/
│   ├── 2023-10-01.json
│   ├── 2023-10-02.json
│   └── ...
└── knowledge_graph/
    ├── entities/
    │   ├── projects/
    │   └── contacts/
    └── relationships.json

구현 예시 (JSON)

{
  "user_preferences": {
    "default_model": "gpt-4",
    "workflow_preferences": {
      "code_review": {
        "strictness": "high",
        "focus_areas": ["security", "performance"]
      }
    }
  },
  "interaction_history": [
    {
      "timestamp": "2023-10-01T12:00:00",
      "user_id": "user123",
      "session_id": "session456",
      "messages": [...]
    }
  ]
}

작업 메모리: 다리 역할

작업 메모리는 장기 메모리에서 관련 데이터를 동적으로 끌어와 활성 컨텍스트에 삽입합니다. 가장 복잡하지만 강력한 구성 요소입니다.

(추가 구현 세부 사항은 간결성을 위해 생략되었습니다.)