엔터프라이즈 Agentic AI — 메모리는 아키텍처다

Source: Dev.to

위에 제공된 소스 링크 외에 번역할 텍스트가 포함되어 있지 않습니다. 번역을 원하는 전체 내용을 알려주시면 한국어로 번역해 드리겠습니다.

Introduction

저는 20년 넘게 엔터프라이즈 시스템을 설계해 왔으며, SOA, 클라우드, 빅데이터, 마이크로서비스, DevOps 등을 겪으며 각각이 변혁을 약속했습니다. 대부분의 이니셔티브가 실패한 이유는 기술이 미숙해서가 아니라, 근본적인 아키텍처가 충분히 고민되지 않았기 때문입니다.

우리는 현재 Agentic AI와 비슷한 전환점에 서 있습니다. 현재의 많은 관심이 모델, 프롬프트, 오케스트레이션 프레임워크, 툴 호출에 집중돼 있지만, 핵심 과제는 memory(메모리)입니다. 에이전트가 어떻게 기억하도록 설계하지 않았다면, 시스템을 설계한 것이 아닙니다.

LLM은 기억하지 못합니다; 제공된 컨텍스트를 처리할 뿐입니다. 의도적인 외부 메모리 레이어가 없으면 에이전트는 이전 상호작용을 잊고, 정책을 잘못 적용하며, 워크플로우 상태를 잃고, 세션 간에 일관성 없는 행동을 보입니다. 이는 프로토타입 단계에서는 견딜 수 있지만, 엔터프라이즈 환경에서는 용납될 수 없습니다.

메모리 레이어

프로덕션 시스템에서 메모리는 단일 기능이 아닙니다. 레이어드 구조로 되어 있으며, 각 레이어는 고유한 목적을 수행합니다. 중요한 다섯 가지 메모리 영역은 다음과 같습니다:

Working Memory

• 속도와 저지연에 최적화된 짧은 수명, 세션‑바인드 컨텍스트.
• 일반적으로 Redis와 같은 인‑메모리 시스템을 사용해 구현됩니다.
• 대화의 연속성을 보장하지만 장기적인 지능을 제공하지는 않습니다.

Retrieval Memory

• 벡터 기반 지식 검색으로, 에이전트가 런타임에 관련 기업 콘텐츠를 가져올 수 있게 합니다.
• 환각을 감소시키지만, 자체적으로 이해를 생성하지는 않습니다.

Semantic Memory

• 기업 관계(조직 계층, 제품 분류, 컴플라이언스 매핑 등)의 구조화된 표현.
• 사물 간 연결 방식을 에이전트에게 컨텍스트 인식을 제공합니다.

Procedural Memory

• 워크플로우 및 실행 상태.
• 에이전트가 무엇을 말할지뿐 아니라 어떻게 행동해야 하는지를 기억합니다.
• 오케스트레이션 로직, 도구 조정, 다중 에이전트 흐름을 포함합니다.

Durable Memory

• 영구적인 감사 로그, 이벤트 로그, 의사결정 이력.
• 설명 가능성, 컴플라이언스, 추적 가능성 및 지속적인 개선을 가능하게 합니다.

대부분의 팀은 이러한 레이어를 하나의 저장소(벡터 데이터베이스, 캐시, 혹은 문서 컬렉션)로 합칩니다. 이는 편리함을 위한 것이지 아키텍처가 아닙니다. 성숙한 시스템은 속도, 근거, 구조, 실행, 거버넌스가 서로 다른 성능 및 위험 요구사항을 갖고 있기 때문에 관점을 분리합니다.

아키텍처적 함의

에이전트가 비즈니스 결과에 영향을 미치기 시작하면—청구 승인, 사고 에스컬레이션, 권고 생성—메모리는 기술 구현 세부 사항이 아니라 거버넌스 인프라가 된다. 리더십은 세 가지 중요한 질문에 답할 수 있어야 한다:

1. 에이전트가 이 결정을 내린 이유는 무엇인가?
2. (답이 명확하지 않다면, 여러분은 엔터프라이즈 AI가 아니라 관리되지 않은 자동화를 가지고 있는 것이다.)

Agentic AI를 선도할 조직은 반드시 가장 큰 모델을 보유하고 있는 것은 아니다. 가장 체계적인 메모리 아키텍처—계층화되고, 관찰 가능하며, 거버넌스가 적용되고, 기업 위험 프레임워크에 정렬된—를 갖추고 있을 것이다.

대화는 “우리는 어떤 모델을 사용하고 있는가?”에서 “우리 AI는 어떻게 기억하고—그 기억을 어떻게 제어하는가?”로 전환해야 한다. 여기서 진정한 아키텍처가 시작된다.

구현 참고

실제 모델을 확인하고 싶은 분들을 위해, GitHub에 공개된 레퍼런스 구현에서는 프로덕션 급 에이전시 AI 시스템에서 사용되는 핵심 메모리 레이어를 보여줍니다:

• 작업 메모리 (세션 컨텍스트)
• 검색 메모리 (벡터 검색)
• 시맨틱 메모리 (지식 그래프)
• 절차 메모리 (워크플로 오케스트레이션)
• 지속 메모리 (감사 추적)

목표는 프레임워크를 소개하는 것이 아니라, 계층형 메모리 아키텍처가 개념에서 오픈‑소스 도구를 활용한 구현으로 어떻게 전환되는지를 시연하는 것입니다.

구현 살펴보기:

• 엔터프라이즈 AI
• 에이전트 AI
• 엔터프라이즈 아키텍처
• LLM
• AI 에이전트
• AI 거버넌스
• AI 전략
• LLMOps
• 다중 에이전트 시스템
• 책임 있는 AI