출처: 해커 뉴스

Claw‑Coder는 로컬 노트북에서 실행되는 AI 에이전트이며, 강력한 도구에 접근할 수 있습니다. 클라우드 모델을 설정해 Claude나 Codex를 사용하려고 애쓰는 대신, Claw‑Coder만 사용하면 됩니다.

Claw‑Coder가 만들어진 이유
답변: 프라이버시와 보안 문제를 해결하기 위해서입니다. Codex, Cursor, Claude 등과 같은 클라우드 모델을 사용하도록 설정된 에이전트를 사용할 경우, 단순히 에이전트를 얻는 것이 아니라 코드베이스 전체를 LLM 학습에 제공하게 됩니다. 이는 다소 우려되는 상황이며, AI라는 기술에 대한 신뢰를 떨어뜨립니다.

하지만 또 다른 문제가 있습니다. 로컬 모델로 전환하면 해당 워크플로에 맞게 설계되지 않았기 때문에 성능과 속도가 떨어지고, 결국 트레이드오프가 발생합니다. 여기서 Claw‑Coder가 등장합니다. 로컬 머신에서 실행될 뿐만 아니라, 모든 코드, RAG, 지식 그래프 등 정보가 로컬에 보관되어 프라이버시 문제를 해결합니다. 그렇다면 성능은 어떨까요?

성능
로컬 LLM은 8B, 13B, 심지어 1B 모델조차 실제 앱을 만들기에 충분한 규모가 아니기 때문에, 클라우드 모델이 하는 멋진 일을 수행하도록 설계되지 않았습니다. 제가 제시한 해결책은 이러한 작은 모델에 도구와 기능을 제공해 코딩 성능을 크게 향상시키는 것입니다.

Claw‑Coder가 접근할 수 있는 것들

• 지식 그래프: 지식 그래프는 사람, 장소, 개념, 사건 등 현실 세계의 엔터티와 그 관계를 연결한 네트워크입니다. 정적인 리스트가 아니라 의미 있는 웹 형태로 정보를 조직해 인간과 AI 모두가 컨텍스트를 이해하도록 돕습니다. 이는 AI가 코드베이스 내 코드와 클론된 알 수 없는 레포지토리 간의 관계를 파악하게 해 주어, 로컬 LLM의 코딩 작업 및 추론 능력을 크게 향상시킵니다.

• RAG: 우리는 언제든 RAG를 사용해 왔지만, 로컬 LLM의 컨텍스트 윈도우는 큰 코드베이스와 레포지토리를 감당하지 못합니다. 따라서 벡터 스토어에 벡터를 저장해 AI가 코드의 의미와 각 부분이 서로에게 어떤 영향을 주는지 알 수 있게 하면, 컨텍스트 윈도우를 초과하지 않으면서 수백만 라인의 코드를 로드할 수 있습니다.

• 도구: 로컬 LLM 성능을 향상시키는 작은 하지만 강력한 방법들을 살펴봤습니다. 에이전트가 실제로 행동을 취하려면 도구에 접근할 수 있어야 합니다. Claw‑Coder에 구현된 도구는 다음과 같습니다.

  1. search_tool – 최신 정보를 검색하게 해 줘, 로컬 LLM이 모르는 정보를 추측(헬루시네이션)하는 일을 방지합니다.
  2. Docker 실행 – 에이전트는 workspace라는 별도 폴더에서 작업해 데스크톱을 보호합니다. 하지만 저품질 코드가 데스크톱을 망치는 것을 완전히 막지는 못합니다. 그래서 다양한 언어용 Docker 컨테이너를 구현해 에이전트가 자신의 코드를 검증하도록 했습니다. 모든 LLM(특히 로컬 모델)은 코드를 생성하지만 실제로 동작하는지 확인할 수 없습니다. 코드를 실행하도록 하면 생성된 코드의 유용성이 크게 증가합니다. HTML·CSS의 경우, AI 에이전트에 비전 LLM을 연결해 브라우저에 렌더링된 결과를 설명하도록 했습니다. 이것이 바로 LLM에 Docker 실행 도구를 제공했을 때 얻을 수 있는 놀라운 힘입니다.

우리는 Claw‑Coder가 로컬 LLM이 실제 작업을 수행하도록 만드는 여러 차별점을 살펴보았습니다.

직접 사용해 보려면
Claw‑Coder는 현재 무거운 테스트 단계에 있어 오픈소스가 아니지만, 투명성을 해치지는 않습니다. 테스트 중이므로 실제 코드베이스에 적용해 피드백을 제공할 수 있습니다. 시작하려면 다음 명령을 실행하세요:

brew tap gabriel-c70/claw
brew install claw-coder

댓글 URL: https://news.ycombinator.com/item?id=48248801
점수: 5

댓글: 1