Helicone 现已进入维护模式。以下是在 5 分钟内切换到自托管替代方案的方法。
Source: Dev.to
Torrix 的功能
Torrix 是一个单独的 Docker 容器,位于你的应用和任何 LLM 提供商之间。每一次调用都会记录到本地的 SQLite 数据库中,包含完整的提示、响应、令牌计数、费用和延迟。没有任何数据会离开你的服务器。
它支持 OpenAI、Anthropic、Gemini、Groq、Mistral、Ollama、DeepSeek、Azure OpenAI,以及任何提供 /v1/chat/completions 接口的提供商。
从 Helicone 迁移时会有哪些变化
只有三件事会改变:基础 URL、认证头的名称,以及你传递 OpenAI 密钥的位置。你的提示、模型和消息保持完全不变。
迁移前(Helicone)
client = OpenAI(
api_key="sk-your-openai-key",
base_url="https://oai.helicone.ai/v1",
default_headers={
"Helicone-Auth": "Bearer hc-your-helicone-key",
}
)
迁移后(Torrix)
client = OpenAI(
api_key="sk-your-openai-key",
base_url="http://localhost:8088/proxy",
default_headers={
"Authorization": "Bearer trxk_your-torrix-key",
"x-target-url": "https://api.openai.com",
"x-upstream-authorization": "Bearer sk-your-openai-key",
}
)
你的 Helicone 自定义头会自动映射。如果你使用了 helicone-property-name、helicone-session-id 或 helicone-request-id,Torrix 能原生读取这些字段。除了基础 URL 和 API 密钥之外,无需进行任何代码更改。
步骤化迁移指南
1. 安装 Torrix
curl -o docker-compose.yml https://raw.githubusercontent.com/torrix-ai/install/main/docker-compose.community.yml
docker compose up -d
打开 ,创建账号,并在 Settings 中复制你的 API 密钥。
2. 更新代码
更换基础 URL,将你的 OpenAI 密钥移动到 x-upstream-authorization,并将 x-target-url 设置为你的提供商。其他所有内容保持不变。
3. 确认运行正常
发送任意请求并检查它是否出现在 Runs 页面上。你应该能看到模型、令牌、费用以及完整的提示追踪。
为什么选择自托管?
Torrix 完全运行在你的基础设施上。你的提示和 API 密钥永远不会经过第三方服务器。它是一个由 SQLite 支持的单进程服务,无需额外的运维或扩展工作。
完整的迁移指南包括 curl 示例和 Anthropic 的操作演示: