我用每月 5 美元构建了生产级 RAG 系统（大多数替代方案成本 100‑200 美元以上）

Source: Dev.to

（请提供您希望翻译的正文内容，我将为您翻译成简体中文，并保留原始的格式、Markdown 语法以及技术术语。）

TL;DR

我在 Cloudflare 边缘部署了一个 semantic‑search system，其运行成本为 $5‑10 / month，而不是通常的 $100‑200 +。它更快，遵循企业 MCP 可组合架构模式，并能够处理生产流量。下面是实现方式。

问题：传统 RAG 成本

对于一个自筹资金的初创公司来说，这意味着 $1,560‑2,280 / 年，而且在该功能产生收入之前就已经产生了这些费用。

重新思考架构

传统流程

User → App Server → OpenAI (embeddings) → Pinecone (search) → User

多次跳转 → 更高的延迟和成本。

仅 Edge 流程

User → Cloudflare Edge (embeddings + search + response) → User

所有工作都在同一地点完成——无需往返请求，也没有空闲服务器。

我构建的内容

Vectorize MCP Worker – 一个单一的 Cloudflare Worker，具备以下功能：

1. 嵌入生成 – Workers AI (bge-small-en-v1.5)
2. 向量搜索 – Cloudflare Vectorize（HNSW 索引）
3. 结果格式化 – 在 Worker 内部完成
4. 身份验证 – 内置

所有代码均在 Cloudflare 的边缘网络运行，覆盖全球 300+ 城市。

技术栈

搜索端点（TypeScript）

async function searchIndex(query: string, topK: number, env: Env) {
  const startTime = Date.now();

  // 1️⃣ 生成嵌入（边缘执行）
  const embeddingStart = Date.now();
  const embedding = await env.AI.run("@cf/baai/bge-small-en-v1.5", {
    text: query,
  });
  const embeddingTime = Date.now() - embeddingStart;

  // 2️⃣ 搜索向量（边缘执行）
  const searchStart = Date.now();
  const results = await env.VECTORIZE.query(embedding, {
    topK,
    returnMetadata: true,
  });
  const searchTime = Date.now() - searchStart;

  // 3️⃣ 返回负载
  return {
    query,
    results: results.matches,
    performance: {
      embeddingTime: `${embeddingTime}ms`,
      searchTime: `${searchTime}ms`,
      totalTime: `${Date.now() - startTime}ms`,
    },
  };
}

没有编排层，没有服务网格——仅 Workers AI + Vectorize。

为什么这对 MCP（机器中心编程）很重要

最近的企业 MCP 讨论（例如 Workato 的系列）表明，大多数实现 失败 的原因是它们暴露了原始 API，而不是 可组合的技能。

典型的 “工具繁重” 方法

get_guest_by_email
get_booking_by_guest
create_payment_intent
charge_payment_method
send_receipt_email
... 47 tools total

LLM 必须在每个任务中编排 6+ 次调用 → 体验慢且易出错。

我们的 “技能优先” 方法

一次工具调用 → 完整结果。后端隐藏所有复杂性。

与企业 MCP 模式的一致性

基准

边缘部署 + 合适的抽象产生了差异。

劳动分工（LLM 与后端）

LLM 负责意图处理；后端负责执行。

实际性能（尼日利亚港口哈科特 – 23 Dec 2024）

要点

通过将整个 RAG 流水线迁移到 Cloudflare 的边缘，并暴露 高层次、可组合的技能 而非原始 API，我们实现了：

• 巨大的成本降低（≈ 95 % 更便宜）
• 亚秒级延迟（≈ 365 ms）
• 确定性的单次调用工作流
• 企业级 MCP 设计

让 LLM 专注于意图，让边缘后端处理执行。

每月费用概览

价格截至 2024 年 12 月。实际费用可能因使用模式而异。

传统替代方案（相同容量的估计）

• Pinecone Standard: $50‑70 /月（最低费用 + 使用费）
• Weaviate Cloud: $25‑40 /月（取决于存储）
• Self‑hosted pgvector: $40‑60 /月（服务器 + 维护）

节省: 85‑95 % 取决于所选替代方案。

Cloudflare 免费层（覆盖大多数副项目和小型企业）

• 100,000 Workers 请求 / 天
• 10,000 AI 神经元 / 天
• 30 M 向量化查询 / 月

大多数副项目和小型企业从不超出免费层。

身份验证（生产环境可选）

// Optional API key for production
if (env.API_KEY && !isAuthorized(request)) {
  return new Response("Unauthorized", { status: 401 });
}

// Dev mode works without auth. Production requires it.

内置性能指标（无需单独的APM）

{
  "query": "edge computing",
  "results": [ /* … */ ],
  "performance": {
    "embeddingTime": "142ms",
    "searchTime": "223ms",
    "totalTime": "365ms"
  }
}

API 文档 (GET /)

{
  "name": "Vectorize MCP Worker",
  "endpoints": {
    "POST /search":   "Search the index",
    "POST /populate": "Add documents",
    "GET /stats":     "Index statistics"
  }
}

预先为 Web 应用配置 – 开箱即用。

真实案例

关键要点

1. Edge‑first architecture is transformative – 将所有内容部署在边缘，消除网络跳转；性能提升立竿见影且可量化。
2. Composable tool design beats API wrappers – 提供高级技能而非底层 API，使系统更快更可靠；大语言模型专注于意图，而非编排。
3. Serverless pricing changes everything – 没有空闲服务器费用 → 可以自由实验。周五上线，使用量激增？没问题。自动弹性伸缩。
4. Simple HTTP beats fancy SDKs – 没有版本冲突，也没有依赖地狱。只需 curl 或 fetch。在 Python、Node、Go 等环境均可使用。

当前限制与权衡

1. 本地开发不便 – Vectorize 在 wrangler dev 中无法使用；必须部署后才能测试搜索。
   权衡: 其他方面可以快速迭代，完整测试需要部署。

2. 知识库更新需要重新部署 – 目前需要编辑代码并重新部署。
   未来: 动态上传 API。
   权衡: 安全性 vs. 便利性。

3. 384 维度可能不足以应对特定领域 – bge‑small‑en‑v1.5 对通用文本表现良好，但医学或法律等专业领域可能需要更大的模型。
   权衡: 速度 vs. 精度。

方法论: 所有成本均基于 每日 10 000 次搜索（≈每月 30 万次），以及 10 000 个存储向量，每个向量 384 维 进行估算。

快速 5 分钟 设置

# 1️⃣ Clone the repo
git clone https://github.com/dannwaneri/vectorize-mcp-worker
cd vectorize-mcp-worker
npm install

# 2️⃣ Create a vector index
wrangler vectorize create mcp-knowledge-base --dimensions=384 --metric=cosine

# 3️⃣ Deploy
wrangler deploy

# 4️⃣ Set API key for production
openssl rand -base64 32 | wrangler secret put API_KEY

# 5️⃣ Populate with your data
curl -X POST https://your-worker.workers.dev/populate \
  -H "Authorization: Bearer YOUR_KEY"

# 6️⃣ Search
curl -X POST https://your-worker.workers.dev/search \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"query":"your question","topK":3}'

实时演示: https://vectorize-mcp-worker.fpl-test.workers.dev

开源仓库: https://github.com/dannwaneri/vectorize-mcp-worker

谁应该使用？

• Startup founders: 停止为 AI 基础设施支付过高费用。每月 $5 部署，预算用于差异化功能。
• Consultants / Agencies: 在固定价格项目中有利可图地加入 AI 搜索——无需持续的基础设施烦恼。
• Enterprise teams: 在不需要 $1 500+/年预算项的情况下，为各部门部署搜索。
• MCP Server Builders: 将其用作遵循企业最佳实践的可组合工具设计的参考实现。

经济性是有道理的。过去需要专门预算的，现在比你团队每天的咖啡预算还便宜。

路线图（未解决问题）

• 动态文档上传 API（无需代码更改）
• 长文档的语义分块
• 多模态支持（图像、表格）
• 完整的测试套件

我也在帮助几家公司部署此方案以满足他们的使用场景。如果您在 AI 搜索上每月花费 $100+/month 或构建 MCP 服务器，欢迎联系。

GitHub: @dannwaneri
Upwork: profile link
Twitter: @dannwaneri

参与

• 有问题/评论吗？ 请在下方留言。
• 觉得有用吗？ ⭐️ 给仓库加星: https://github.com/dannwaneri/vectorize-mcp-worker

相关阅读

• 在 Cloudflare Workers 上进行 MCP 采样 – 如何在不管理大型语言模型的情况下构建智能 MCP 工具
• 为何边缘计算迫使我写出更好的代码 – 该架构背后的经济驱动因素

灵感来源： 超越基础 MCP：为何企业 AI 需要可组合架构以及为企业 MCP 设计可组合工具