Show HN: GoModel – 使用 Go 的开源 AI 网关；比 LiteLLM 轻 44 倍

Source: Hacker News

概览

嗨，我是 Jakub，居住在华沙的独立创始人。自去年十二月起，我与几位贡献者一起构建了 GoModel。它是一个开源的 AI 网关，位于你的应用与模型提供商（如 OpenAI、Anthropic 或其他）之间。

使用场景

我为我的初创公司构建它，以解决以下几个问题：

• 跟踪每个客户或团队的 AI 使用量和费用
• 在不更改应用代码的情况下切换模型
• 更轻松地调试请求流程
• 通过精确且语义化的缓存降低 AI 开支

特性

• 大约 17 MB 的 Docker 镜像（LiteLLM 的镜像大约是它的 44 倍：docker.litellm.ai/berriai/litellm:latest ~ 746 MB，适用于 amd64）
• 请求工作流可见且易于检查
• 配置默认以环境变量为主

链接

• 网站：
• 评论：

积分： 7