왜 나는 개인 AI 어시스턴트를 만들고 작게 유지했는가

Source: Dev.to

Overview

개인 AI 어시스턴트라는 아이디어는 마음에 들지만, 대부분은 무겁게 느껴집니다. 사용하려고 하면 시스템 프롬프트가 거대하고, 토큰 오버헤드가 과도하며, 신뢰하기 어려운 프레임워크가 존재하고, 내가 요청한 것과 실제로 일어나는 일 사이에 여러 층이 끼어 있기 때문이죠.

그래서 저는 Atombot 을 만들었습니다 – OpenClaw와 nanobot에서 영감을 받은 작은 개인 AI 어시스턴트입니다. 복잡한 에이전트 플랫폼을 만들려는 것이 아니라, 더 간단하고, 이해하고, 수정할 수 있으며 실제로 사용할 수 있는 무언가를 원했습니다.

프라이버시도 중요합니다. 개인 어시스턴트는 내 개인 데이터를 다루게 되는데, 그 데이터를 내 머신 밖으로 보내고 싶지 않아요. 그래서 로컬 LLM 지원이 저에게는 필수였습니다. 로컬 모델은 무거운 어시스턴트 프레임워크를 실행할 수는 있지만, 시스템 프롬프트, 지시문, 도구 정의, 추가 로직 등에서 발생하는 오버헤드 때문에 큰 컨텍스트 윈도우를 다루는 데 어려움을 겪습니다. API 기반 LLM에서는 괜찮지만, 로컬 모델에서는 훨씬 맞지 않죠. 저는 로컬 환경에서도 현실감 있게 사용할 수 있도록 더 가벼운 무언가를 원했습니다.

Core Features

• Local LLM support with simple onboarding
• Small, understandable codebase that’s easy to modify
• Persistent memory for long‑term context
• Reminders and scheduled tasks (one‑time or recurring)
• Telegram integration so I can chat with it outside the terminal

Example Use Cases

Exploring the web and summarizing content

Managing reminders

Atombot은 웹사이트를 탐색하고, 찾은 내용을 요약하며, 일회성 또는 반복 알림을 처리할 수 있습니다. 이것은 두 가지 예시일 뿐이며, 더 많은 예시는 저장소에서 확인할 수 있습니다.

Getting Started

시도해보고 싶다면 GitHub에서 프로젝트를 확인하세요:

https://github.com/daegwang/atombot

Note: This post was originally published on my site – link.