Helicone이 이제 maintenance mode입니다. 5분 안에 self-hosted 대안으로 전환하는 방법

Source: Dev.to

Torrix가 하는 일

Torrix는 단일 Docker 컨테이너로, 애플리케이션과 모든 LLM 제공자 사이에 위치합니다. 모든 호출은 프롬프트, 응답, 토큰 수, 비용, 지연 시간 등을 포함한 로컬 SQLite 데이터베이스에 기록됩니다. 데이터는 서버를 떠나지 않습니다.

OpenAI, Anthropic, Gemini, Groq, Mistral, Ollama, DeepSeek, Azure OpenAI 및 /v1/chat/completions 엔드포인트를 제공하는 모든 공급자를 지원합니다.

Helicone에서 마이그레이션할 때 바뀌는 점

바뀌는 것은 기본 URL, 인증 헤더 이름, 그리고 OpenAI 키를 전달하는 위치 세 가지뿐입니다. 프롬프트, 모델, 메시지는 그대로 유지됩니다.

이전 (Helicone)

client = OpenAI(
    api_key="sk-your-openai-key",
    base_url="https://oai.helicone.ai/v1",
    default_headers={
        "Helicone-Auth": "Bearer hc-your-helicone-key",
    }
)

이후 (Torrix)

client = OpenAI(
    api_key="sk-your-openai-key",
    base_url="http://localhost:8088/proxy",
    default_headers={
        "Authorization": "Bearer trxk_your-torrix-key",
        "x-target-url": "https://api.openai.com",
        "x-upstream-authorization": "Bearer sk-your-openai-key",
    }
)

Helicone의 커스텀 헤더는 자동으로 별칭이 지정됩니다. helicone-property-name, helicone-session-id, helicone-request-id 를 사용하고 있었다면 Torrix가 이를 그대로 읽어들입니다. 기본 URL과 API 키를 제외하고는 코드 변경이 전혀 필요하지 않습니다.

단계별 마이그레이션

1. Torrix 설치

curl -o docker-compose.yml https://raw.githubusercontent.com/torrix-ai/install/main/docker-compose.community.yml
docker compose up -d

Open , 계정을 만들고 Settings에서 API 키를 복사합니다.

2. 코드 업데이트

기본 URL을 교체하고 OpenAI 키를 x-upstream-authorization 으로 이동한 뒤, x-target-url 을 사용하려는 공급자로 설정합니다. 나머지는 그대로 두면 됩니다.

3. 정상 동작 확인

임의의 요청을 보내고 Runs 페이지에서 해당 요청이 표시되는지 확인합니다. 모델, 토큰 수, 비용, 전체 프롬프트 추적이 보여야 합니다.

왜 자체 호스팅인가?

Torrix는 완전히 자체 인프라에서 실행됩니다. 프롬프트와 API 키가 제3자 서버를 통과하지 않으며, SQLite 기반 단일 프로세스로 동작하므로 별도의 운영이나 확장이 필요하지 않습니다.

전체 마이그레이션 가이드와 curl 예제, Anthropic walkthrough는 다음을 참고하세요.