메모리는 AI에서 누락된 레이어이다

Source: Dev.to

문제: 잊어버리는 상호작용

아마도 기억상실증에 걸린 뛰어난 의사를 만나게 된다고 상상해 보세요. 매번 방문할 때마다 당신의 병력, 증상, 알레르기, 이전 치료 내용 등을 처음부터 모두 설명해야 합니다.
오늘날 ChatGPT를 사용하는 것이 바로 이런 느낌입니다. 모델은 굉장히 똑똑하지만, 당신이 누구인지에 대한 기억이 없습니다. 각 대화는 제로부터 시작되어 맥락, 목표, 패턴, 선호도가 사라집니다.

해결책: 메모리 추가

우리는 이것을 해결해야 할 #1 문제로 규정했습니다—모델을 더 똑똑하게 만드는 것이 아니라, 기억할 수 있는 능력을 부여하는 것이었습니다.

ALLMA는 pgvector가 포함된 Supabase를 사용해 의미 기억(semantic memory)을 구현합니다. 모든 대화는 임베딩되어 저장됩니다. 나중에 ALLMA와 대화하면, 과거 상호작용에서 관련된 컨텍스트를 검색합니다.

작동 방식

1. 임베딩(Embeddings) – 각 대화 턴을 벡터 형태로 변환합니다.
2. 벡터 검색(Vector Search) – pgvector를 이용해 가장 관련성이 높은 과거 임베딩을 찾습니다.
3. 스마트 컨텍스트 삽입(Smart Context Injection) – 검색된 컨텍스트를 프롬프트에 삽입해 모델이 이전 세부 정보를 떠올릴 수 있게 합니다.

핵심은 기술이 아니라 무엇을 기억하고 언제 꺼낼지를 결정하는 것입니다.

이점

• 패턴 인식 – “이번 주에 이 프로젝트 때문에 스트레스를 받는다고 세 번이나 말씀하셨는데, 실제로 무슨 일이 있는지 이야기해 보실래요?”
• 목표 추적 – 당신의 목표를 기억하고 진행 상황을 체크합니다.
• 맞춤형 멘토링 – 당신에 대한 정신 모델을 시간이 지날수록 풍부하게 구축합니다. 마치 점을 연결하고 큰 그림을 보는 좋은 멘토와 같습니다.

행동 요청

무료로 사용해 보세요: alma.pro