Weaviate 用于 RAG：何时表现出色（何时不适用）

Source: Dev.to

概览

在构建企业级概念验证（PoC）后的实操评估——不仅仅是另一个 “Hello World”。

作为一名 技术主管 & AI 架构师（实操），专注于检索增强生成（RAG）系统，我为 HSBC、Scotiabank、CFE 等组织构建了解决方案。最近，在 墨西哥城 AI 研究实验室（2025 年 2月 – 6月），我负责内部商业智能引擎 PoC 的完整 RAG 解决方案架构。这项工作是一次技术深潜，旨在验证架构、延迟和安全模式，以便未来企业级部署。

PoC 旨在严格测试 RAG 架构的真实可用性，包含：

• 完整的企业模式（认证、错误处理、可观测性）
• 本地 LLM（通过 Ollama 的 DeepSeek‑R1）
• 100 % 数据主权
• 在真实硬件上进行基准测试（GCP n2‑standard‑8）

我的贡献包括：

• 设计具有响应式流模式的多层 RAG 架构（Spring WebFlux、Project Reactor）
• 架构 Weaviate v4 与针对金融文档处理优化的 Sentence‑BERT 嵌入的集成
• 主导本地 LLM 集成策略

🔗 完整架构细节：
💻 代码（MIT，非商业）：

Weaviate 价值体现 — 实践中

混合搜索：nearText + where = 更少的误报

在实际使用中，用户并不会提出像 “summarize Q3 earnings” 这样干净的提问。他们常常会以如下方式表达：

“合规团队上个季度对贷款审批有什么说法？”

大多数向量数据库只能在语义 或 关键字搜索之间做出选择。Weaviate 能够将两者结合，大幅降低误报率。

{
  Get {
    FinancialDocument(
      nearText: { concepts: ["loan approval"] }
      where: {
        path: ["department"]
        operator: Equal
        valueString: "compliance"
      }
    ) {
      title
      snippet
      _additional { distance }
    }
  }
}