Show HN: GoModel – Go 언어로 만든 오픈소스 AI 게이트웨이; LiteLLM보다 44배 가볍다

Source: Hacker News

개요

안녕하세요, 저는 바르샤바에 거주하는 솔로 창업자 Jakub입니다. 저는 12월부터 몇 명의 기여자와 함께 GoModel을 개발하고 있습니다. 이는 OpenAI, Anthropic 등과 같은 모델 제공자와 여러분의 앱 사이에 위치하는 오픈소스 AI 게이트웨이입니다.

사용 사례

제가 스타트업을 위해 이 도구를 만든 이유는 다음과 같은 문제들을 해결하기 위해서입니다:

• 클라이언트 또는 팀별 AI 사용량 및 비용 추적
• 앱 코드를 변경하지 않고 모델 전환
• 요청 흐름을 보다 쉽게 디버깅
• 정확하고 의미론적인 캐싱을 통해 AI 비용 절감

특징

• 약 17 MB Docker 이미지 (LiteLLM 이미지보다 44배 이상 작음: docker.litellm.ai/berriai/litellm:latest ~ 746 MB on amd64)
• 요청 워크플로우가 가시적이며 쉽게 검사 가능
• 기본적으로 환경 변수 중심의 설정 제공

링크

• 웹사이트:
• 댓글:

포인트: 7