Show HN: LocalGPT – 지속 메모리를 갖춘 Rust 기반 로컬 퍼스트 AI 어시스턴트

Source: Hacker News

LocalGPT

Rust 로 만든 로컬 디바이스‑중심 AI 어시스턴트 — 영구 메모리, 자율 작업, 약 27 MB 바이너리. OpenClaw 에서 영감을 받았으며 호환됩니다.

cargo install localgpt

왜 LocalGPT인가?

• 단일 바이너리 — Node.js, Docker, Python 불필요
• 로컬 디바이스 중심 — 전적으로 내 컴퓨터에서 실행; 메모리 데이터는 내 것 그대로
• 영구 메모리 — 마크다운 기반 지식 저장소, 전체 텍스트 및 의미 검색 지원
• 자율 하트비트 — 작업을 위임하고 백그라운드에서 동작하게 함
• 다중 인터페이스 — CLI, 웹 UI, 데스크톱 GUI
• 다중 LLM 제공자 — Anthropic (Claude), OpenAI, Ollama
• OpenClaw 호환 — SOUL, MEMORY, HEARTBEAT 마크다운 파일 및 스킬 포맷과 작동

설치

cargo install localgpt

빠른 시작

# 설정 초기화
localgpt config init

# 인터랙티브 채팅 시작
localgpt chat

# 단일 질문하기
localgpt ask "What is the meaning of life?"

# 하트비트, HTTP API, 웹 UI와 함께 데몬으로 실행
localgpt daemon start

작동 원리

LocalGPT 는 일반 마크다운 파일을 메모리로 사용합니다:

~/.localgpt/workspace/
├── MEMORY.md            # 장기 지식 (각 세션마다 자동 로드)
├── HEARTBEAT.md         # 자율 작업 큐
├── SOUL.md              # 성격 및 행동 가이드
└── knowledge/           # 구조화된 지식 저장소 (선택 사항)
    ├── finance/
    ├── legal/
    └── tech/

파일은 빠른 키워드 검색을 위해 SQLite FTS5 로, 로컬 임베딩을 이용한 의미 검색을 위해 sqlite-vec 로 인덱싱됩니다.

설정

~/.localgpt/config.toml 에 저장됩니다:

[agent]
default_model = "claude-cli/opus"

[providers.anthropic]
api_key = "${ANTHROPIC_API_KEY}"

[heartbeat]
enabled = true
interval = "30m"
active_hours = { start = "09:00", end = "22:00" }

[memory]
workspace = "~/.localgpt/workspace"

CLI 명령어

Chat & Ask

localgpt chat                     # 인터랙티브 채팅
localgpt chat --session          # 세션 재개
localgpt ask "question"          # 단일 질문

Daemon

localgpt daemon start    # 백그라운드 데몬 시작
localgpt daemon stop     # 데몬 중지
localgpt daemon status   # 상태 표시
localgpt daemon heartbeat # 한 번의 하트비트 사이클 실행

Memory

localgpt memory search "query"   # 메모리 검색
localgpt memory reindex          # 파일 재인덱싱
localgpt memory stats           # 통계 표시

Config

localgpt config init   # 기본 설정 파일 생성
localgpt config show   # 현재 설정 보기

HTTP API

데몬이 실행 중일 때:

Built With

Rust, Tokio, Axum, SQLite (FTS5 + sqlite‑vec), fastembed, eframe

License

Apache‑2.0