왜 AI 에이전트는 모든 것을 잊어버리는가 (그리고 우리가 해결한 방법)

Source: Dev.to

AI 에이전트나 어시스턴트를 만든 적이 있다면, 이 문제에 부딪혔을 겁니다: 세션이 끝나는 순간 모든 것을 잊어버린다는 것이죠. 사용자가 다음 날 다시 찾아오면, 에이전트는 그 사용자가 누구인지 전혀 모릅니다—선호도, 히스토리, 진행 중인 작업에 대한 기억이 전혀 없죠. 사용자는 매번 처음부터 모든 것을 다시 설명해야 합니다.

이것은 모델 자체의 문제가 아니라 인프라스트럭처 문제입니다. 모델은 장기 메모리를 갖고 있지 않으며, 컨텍스트 윈도우만 존재합니다. 윈도우가 닫히면 그 안에 있던 모든 내용이 사라집니다.

우리가 만든 것

AmPN은 AI 에이전트를 위한 호스팅 메모리 스토어입니다. 에이전트는 우리의 API를 통해 메모리를 저장하고, 새로운 세션이 시작될 때 의미 검색을 통해 관련 컨텍스트를 가져옵니다—즉, 바로 이전 상태에서 작업을 이어갈 수 있습니다.

from ampn import MemoryClient

client = MemoryClient(api_key='your_key')

# Store a memory
client.store(
    user_id='alice',
    content='User prefers concise explanations and works in Python'
)

# Retrieve relevant context
results = client.search(
    user_id='alice',
    query='what does the user prefer?'
)
# Returns: ['User prefers concise explanations and works in Python']

기술 스택

• 스토리지: 구조화된 데이터는 PostgreSQL, 벡터 임베딩은 Qdrant
• 검색: Sentence embeddings (all‑MiniLM‑L6‑v2) — 키워드 매치가 아니라 의미적으로 유사한 메모리를 찾아냅니다
• API: FastAPI, 완전 문서화됨
• SDK: Python (pip install ampn-memory) 및 Node.js (npm install @ampn/memory)

무료 티어

무료 티어는 현재 **ampnup.com**에서 제공됩니다. 월 1,000개의 메모리 작업과 10,000개의 읽기 요청을 포함하고 있어, 빌드 및 테스트에 충분합니다.

여러분이 현재 에이전트 프로젝트에서 메모리를 어떻게 다루고 있는지 알려주세요.