检索增强生成 (RAG) 入门指南

Source: Dev.to

什么是 RAG？（通俗解释）

检索增强生成（Retrieval‑Augmented Generation，RAG）结合了：

• 搜索（检索） – 从你的数据中找到相关信息
• 生成 – 让大语言模型（LLM）使用这些数据生成答案

AI 不是盲目猜测，而是先查找事实，再作答，从而降低幻觉（hallucination）的概率。

好处

• 答案来源于你自己的数据（PDF、文档、数据库、API）
• 数据保持最新（无需重新训练）
• 适用于聊天机器人、内部工具、搜索和问答系统

RAG 架构（高层概览）

流程

1. 用户提出问题
2. 检索到相关文档
3. 将检索到的上下文发送给 LLM
4. LLM 基于数据生成有依据的答案

支持的来源类型

• PDF、Word 文件、Markdown
• 数据库、API、网站

技术流水线

• 文本 → 用于相似度搜索的数值向量
• 嵌入模型：OpenAI embeddings、SentenceTransformers
• 向量库用于快速检索：FAISS（本地）、Pinecone、Weaviate、Chroma

模型示例

• GPT‑4 / GPT‑4o
• Claude
• Llama

示例实现（Python）

# Install required packages
# pip install langchain faiss-cpu openai tiktoken

from langchain.document_loaders import TextLoader
from langchain.embeddings import OpenAIEmbeddings
from langchain.vectorstores import FAISS
from langchain.chat_models import ChatOpenAI

# Load documents
loader = TextLoader("data.txt")
docs = loader.load()

# Create embeddings and vector store
embeddings = OpenAIEmbeddings()
db = FAISS.from_documents(docs, embeddings)

# Retrieve relevant chunks
query = "What is RAG?"
retrieved_docs = db.similarity_search(query)

# Generate answer using the retrieved context
llm = ChatOpenAI()
response = llm.predict(
    f"Answer using this context:\n{retrieved_docs}\n\nQuestion: {query}"
)

print(response)

常见使用场景

• PDF 聊天机器人
• 企业内部知识库
• 法律文档检索
• 医疗指南助手
• 开发者文档机器人

最佳实践

• 避免在提示中塞入过多文本（块大小：500–1000 token）
• 添加来源引用
• 使用 top‑k 检索（k = 3–5）
• 提示要明确，例如 “仅根据上下文作答”

后续步骤（推荐）

• 添加文档切块
• 使用元数据过滤
• 添加引用
• 采用混合搜索（关键词 + 向量）
• 添加重排序（reranking）

不适合使用 RAG 的情形

• 数学推理密集型
• 无上下文的代码生成
• 创意写作
• 纯聊天机器人
• 依赖图数据的 AI（参见 Neo4j 大会）

参考资料

• Neo4j 大会：
• Nodes AI 2026 会议：