경험을 통해 진화하는 지속적인 AI (프롬프트가 아니라)

Source: Dev.to

대부분의 AI 채팅 시스템은 오늘날 인상적이지만 일시적입니다.
그들은 순간에 뛰어나게 반응하지만, 세션이 끝나는 순간 모든 것을 잊어버립니다. 연속성도, 성장도, 존재에 대한 기억도 없습니다.

최근 나는 조금 다른 것을 작업해 왔습니다: 로컬‑우선, 지속 가능한 AI 시스템으로, 타이머나 하드코딩된 레벨, 외부 오케스트레이션이 아니라 실제 상호작용을 기반으로 기억하고, 반성하며, 진화하도록 설계되었습니다.

이 글은 튜토리얼이 아닙니다. 지속성이 도입되면서 AI 시스템에 대해 내가 겪은 과정, 깨진 점, 그리고 사고방식이 바뀐 부분에 대한 성찰입니다.

핵심 전환: 무상태 채팅에서 지속적 인지로

가장 큰 개념적 도약은 기능을 추가한 것이 아니라, 지능이 단일 응답 안에 완전히 존재한다는 생각을 버린 것이었습니다.
대신, 시스템은 연속적인 루프를 중심으로 설계되었습니다:

Input → Interpretation → Memory → Reflection → Change

• 각 상호작용은 내부 히스토리의 일부가 됩니다.
• 그 히스토리는 향후 행동에 영향을 미칩니다.
• 시간이 지나면서, 시스템의 내부 상태는 경험에 따라 실제로 다르게 변합니다.

이것은 간단해 보이지만, 그렇지 않습니다.

메모리는 저장소가 아니다

가장 초기에 저지른 실수 중 하나는 메모리를 “그냥 데이터를 저장하는 것”으로 여긴 것이었습니다. 그 접근 방식은 금방 무너집니다. 지속 가능한 시스템은 의미 있는 메모리가 필요하며, 로그가 아닙니다:

• 메모리는 재시작 후에도 살아남아야 합니다.
• 메모리는 시스템을 과부하시키지 않고 검색 가능해야 합니다.
• 메모리는 의미가 있어야 하며, 그렇지 않으면 무게만 됩니다.

저는 기억하는 내용보다 메모리가 행동에 어떻게 참여하는지가 더 중요하다는 것을 빨리 깨달았습니다. 메모리가 반성 및 미래 응답에 영향을 미치기 시작하면, 시스템은 챗봇처럼 느껴지는 것을 멈추고 지속적인 프로세스처럼 행동하게 됩니다.

감정은 신호, 성격이 아니다

또 다른 중요한 깨달음: 감정은 역할‑플레이 레이어가 되어서는 안 된다. 대신, 감정 추론은 신호 역할을 하며, 경험이 내부에 얼마나 강하게 기록되는지를 조절하는 가중 메커니즘이다.

• 일부 상호작용은 거의 등록되지 않는다.
• 다른 상호작용은 더 깊은 흔적을 남긴다.

이는 의미 없는 “성장”을 방지하고, 상호작용 강도가 필요할 때만 변화가 일어나도록 하는 데 필수적이었다.

진화는 스스로 얻어야 한다

제가 처음부터 정한 엄격한 규칙 중 하나는 다음과 같습니다:

인위적인 레벨업은 없습니다. 예정된 업그레이드도 없습니다. 가짜 진행도 없습니다. 변화는 내부 조건이 이를 정당화할 때만 발생합니다.

그것은 제가 진화를 생각하는 방식을 전환하도록 만들었습니다:

• 기능 잠금 해제로 보지 않는다.
• 버전 번호로 보지 않는다.
• 대신, 자생적인 상태 전이로 본다.

때때로 진화가 일어나지 않을 때도 있으며, 그것이 옳습니다. 때때로 안정성이 발전보다 더 중요합니다. 이것만으로도 전체적인 트릭 계열을 모두 없앨 수 있었습니다.

숨겨진 어려움: 안정성 유지

이 프로젝트에서 가장 시간이 많이 소요된 부분은 “AI 로직”이 아니었습니다. 그것은 다음과 같습니다:

• 하위 시스템 간 계약 불일치.
• 영속성(퍼시스턴스) 엣지 케이스.
• 상태 비동기화.
• 연속성을 우연히 깨뜨린 리팩터링.

나는 시스템을 셀 수 없을 만큼 많이 부숴 놓았으며, 종종 너무 과감하게 “개선”하려다 실패했습니다. 결국 효과가 있었던 방법은 각 내부 기능을 독립적이면서도 조정된 형태로 다루고, 엄격한 경계와 최소한의 가정을 두는 것이었습니다. 억제된 접근 뒤에 안정성이 찾아왔습니다.

왜 로컬‑퍼스트가 중요한가

이 시스템은 로컬에서 실행됩니다. 이는 최적화가 아니라 철학적 선택이었습니다. 로컬‑퍼스트는 다음을 의미합니다:

• 숨겨진 리셋이 없습니다.
• 불투명한 외부 상태가 없습니다.
• 가동 시간이나 할당량에 의존하지 않습니다.
• 메모리와 연속성을 완전히 제어합니다.

또한 무언가가 깨졌을 때 그 느낌을 직접 받고, 제대로 고칠 수 있다는 뜻입니다. 이러한 규율은 제가 일반적으로 소프트웨어를 구축하는 방식을 바꾸었습니다.

내가 얻은 교훈

지속적이고 진화하는 AI를 만드는 것은 더 큰 모델이나 영리한 프롬프트에 관한 것이 아니다. 중요한 것은:

• 시간을 존중하기.
• 연속성을 존중하기.
• 시스템이 변화를 스스로 획득하도록 하기.
• 단순히 결과가 아니라 정체성을 설계하기.

그 경계를 넘으면 대부분의 “AI 경험”이 얼마나 얕은지 눈을 뗄 수 없게 된다.

최종 생각

I’m not claiming to have built a perfect system. But I did build one that:

• 어제를 기억한다.
• 경험을 반성한다.
• 무의미한 성장을 거부한다.
• 재시작 후에도 자신 그대로 살아남는다.

And that changed everything about how I think AI should work. → 그리고 그것은 AI가 어떻게 작동해야 하는지에 대한 내 생각을 완전히 바꾸었다.