🧠 Hermes 에이전트 어시스턴트 — 플래너·실행기·메모리를 갖춘 모듈형 AI 에이전트 시스템

Source: Dev.to

🚀 내가 만든 것

Hermes Agent Assistant를 만들었습니다. 이는 모듈식 아키텍처를 사용해 현대 AI 에이전트를 구조화하는 방식을 보여주기 위한 가벼운 에이전시 AI 시스템입니다. 시스템은 추상적인 사용자 작업을 받아 전용 플래너를 통해 구조화된 단계로 나누고, 실행 엔진을 통해 순차적으로 실행하며, 필요한 도구를 활용하고, 상호작용 컨텍스트를 지속적인 메모리 시스템에 저장합니다.
오늘날 대부분의 AI 애플리케이션은 단일 입력‑출력 루프에 의존하는 LLM 래퍼에 불과합니다. 저는 프로덕션 수준의 자율 에이전트 시스템이 내부적으로 어떻게 동작하는지 이해하고 시연하고 싶었습니다. 구체적으로 다음을 탐구하고자 했습니다.

• 플래닝을 실행과 분리하여 복잡한 오류 처리와 다단계 추론을 가능하게 하기
• 도구를 동적으로 통합하여 에이전트의 추론 루프에 포함시키기
• 상태와 메모리를 작업 간에 지속시켜 진정한 컨텍스트 연속성을 제공하기

Hermes Agent는 이러한 문제를 매우 접근하기 쉽고 가볍고 확장 가능한 형태로 해결하기 위해 만든 아키텍처 시뮬레이션입니다. 코드베이스는 실제 AI 에이전트 메쉬를 반영하는 네 개의 자율 컴포넌트로 깔끔하게 분리됩니다.

       User Request (e.g., /run?task=...)
                     │
                     ▼
       ┌───────────────────────────┐
       │         PLANNER           │ ➔ 추상 목표를 구조화된 순차 단계로 분할
       └─────────────┬─────────────┘
                     │
                     ▼
       ┌───────────────────────────┐
       │        EXECUTOR           │ ➔ 각 단계를 처리하며 작업 완수 조정
       └─────────────┬─────────────┘
                     │
                     ▼
       ┌───────────────────────────┐
       │       TOOLS LAYER         │ ➔ 기능 유틸리티 제공 (시뮬레이션 웹 검색, 논리, 수학)
       └─────────────┬─────────────┘
                     │
                     ▼
       ┌───────────────────────────┐
       │      MEMORY SYSTEM        │ ➔ 실행 로그를 로컬 JSON 저장소에 영구 보관
       └───────────────────────────┘

🌐 실시간 프로덕션 데모: hermes-agent-tanush.onrender.com

💻 오픈 소스 저장소: https://github.com/tanush326k/hermes-agent-assistant.git

🆔 클라우드 배포 서비스 ID: srv-d88revegvqtc73bdj380 (Render Infrastructure Node)

전통적인 경직된 API나 단순 대화형 챗봇과 달리 Hermes Agent는:

• 워크플로우 기반 사고: 실행 전에 내부 사유 흐름을 설정합니다.
• 추론과 행동 분리: 플래너와 실행기를 분리해 연쇄적인 생성 실패를 방지합니다.
• 높은 확장성: 새로운 도구와 커스텀 로직을 시스템에 손쉽게 추가해도 핵심 라우팅이 깨지지 않습니다.
• 컨텍스트 지속성 유지: 커스텀 메모리 모듈이 네트워크 호출 간 상태 이력을 보존합니다.

POST /run?task=search AI agents HTTP/1.1
Host: hermes-agent-tanush.onrender.com

{
  "task": "search AI agents",
  "plan": [
    "analyze request parameters",
    "query tool registry for search utilities",
    "summarize agent data structural output"
  ],
  "result": "final structured output successfully generated and written to persistent storage."
}

핵심 언어: Python 3.10+
웹 프레임워크: FastAPI (Asynchronous Server Gateway Interface)
프로덕션 서버: Uvicorn
메모리 레이어: 휘발성‑영구 JSON 상태 관리자
아키텍처 패턴: 모듈형 에이전시 워크플로우 디자인

🤖 실제 기반 LLM 통합: 시뮬레이션 로직을 OpenAI, Anthropic, 혹은 로컬 오픈소스 Ollama 완성 훅으로 교체
🗄️ 벡터 데이터베이스 메모리 업그레이드: 평면 파일 저장을 FAISS / ChromaDB 같은 의미론적 벡터 인덱싱 프레임워크로 전환하여 의미론적 청크 조회 지원
🤝 멀티‑에이전트 오케스트레이션: 플래너, 실행기, 비평가 에이전트를 별도 시스템 프롬프트와 함께 협업하도록 워크플로우 확장
⚡ 실시간 서버‑전송 이벤트 (SSE): 클라이언트 프론트엔드가 에이전트의 사고 과정을 단계별로 관찰할 수 있도록 실시간 실행 스트리밍 통합