RAG 비교를 위한 벡터 스토어

Source: Dev.to

올바른 vector store를 선택하면 RAG 애플리케이션의 성능, 비용, 확장성을 좌우할 수 있습니다. 이 포괄적인 비교에서는 2024‑2025년에 가장 인기 있는 옵션들을 다룹니다.

Vector Store란 무엇이며 왜 RAG에 필요한가

Vector store는 고차원 임베딩 벡터를 저장하고 검색하도록 설계된 특수 데이터베이스입니다. Retrieval Augmented Generation (RAG) 시스템에서 vector store는 지식의 중추 역할을 하며, 의미 기반 유사도 검색을 통해 문맥에 맞는 문서 검색을 가능하게 합니다.

RAG 파이프라인을 구축할 때, 문서는 OpenAI의 text-embedding-3-small 같은 모델이나 BGE, E5 같은 오픈소스 대안으로 임베딩(밀집 수치 벡터)으로 변환됩니다. 최신 다국어 성능을 위해서는 Qwen3 임베딩 및 재랭크 모델이 Ollama와의 로컬 배포에 뛰어난 통합을 제공합니다. 다국어 및 멀티모달 애플리케이션을 위해서는 cross‑modal embeddings가 텍스트, 이미지, 오디오 등 다양한 데이터 유형을 통합된 표현 공간으로 연결합니다. 이러한 임베딩은 의미를 포착해 정확한 키워드 매치가 아니라 의미에 따라 문서를 찾을 수 있게 합니다.

Vector store가 담당하는 역할:

• 수백만~수십억 개의 벡터 저장
• 빠른 근사 최근접 이웃(ANN) 검색을 위한 인덱싱
• 검색 범위를 좁히는 메타데이터 필터링
• 지식 베이스 관리를 위한 CRUD 작업

관련 문서를 검색한 뒤, 임베딩 모델을 활용한 재랭크를 통해 보다 정교한 유사도 측정으로 검색 품질을 향상시킬 수 있습니다.

빠른 비교 표

상세 Vector Store 분석

Pinecone — Managed 리더

Pinecone는 머신러닝 애플리케이션을 위해 특별히 설계된 완전 관리형 벡터 데이터베이스입니다.

from pinecone import Pinecone

pc = Pinecone(api_key="YOUR_API_KEY")
index = pc.Index("my-rag-index")

# Upsert vectors
index.upsert(vectors=[
    {"id": "doc1", "values": embedding, "metadata": {"source": "wiki"}}
])

# Query with metadata filtering
results = index.query(
    vector=query_embedding,
    top_k=5,
    filter={"source": {"$eq": "wiki"}}
)

장점

• 인프라 관리 필요 없음
• 뛰어난 문서와 SDK 지원
• 서버리스 요금제(쿼리당 과금)
• 빠른 쿼리 지연시간(~50 ms P99)

단점

• 클라우드 전용(셀프 호스팅 불가)
• 사용량에 따라 비용 증가
• 벤더 락인 우려

추천 대상: 빠른 프로덕션 출시와 운영 단순성을 중시하는 팀.

Chroma — 개발자 최애

Chroma는 “AI‑native 오픈소스 임베딩 데이터베이스”를 표방합니다. 간단한 API와 LangChain, LlamaIndex와의 원활한 통합으로 사랑받고 있습니다.

import chromadb

client = chromadb.Client()
collection = client.create_collection("my-docs")

# Add documents with auto‑embedding
collection.add(
    documents=["Doc content here", "Another doc"],
    metadatas=[{"source": "pdf"}, {"source": "web"}],
    ids=["doc1", "doc2"]
)

# Query
results = collection.query(
    query_texts=["semantic search query"],
    n_results=5
)

장점

• 매우 간단한 API
• 내장 임베딩 지원
• 임베디드(인‑메모리) 혹은 클라이언트‑서버 모드 지원
• LangChain/LlamaIndex와 1급 통합

단점

• 매우 큰 데이터셋에 대한 확장성 제한
• 엔터프라이즈 기능 부족
• 임베디드 모드에서 영속성 관리가 까다로울 수 있음

추천 대상: 프로토타이핑, 중소 규모 프로젝트, 파이썬 중심 팀.

Weaviate — 하이브리드 검색 챔피언

Weaviate는 벡터 검색과 키워드(BM25) 검색을 결합하고 GraphQL API를 제공합니다. 하이브리드 검색이 검색 품질을 크게 높이는 경우에 강점이 있습니다.

import weaviate

client = weaviate.Client("http://localhost:8080")

# Create schema with vectorizer
client.schema.create_class({
    "class": "Document",
    "vectorizer": "text2vec-openai",
    "properties": [{"name": "content", "dataType": ["text"]}]
})

# Hybrid search (vector + keyword)
result = client.query.get("Document", ["content"]) \
    .with_hybrid(query="RAG architecture", alpha=0.5) \
    .with_limit(5) \
    .do()

장점

• 네이티브 하이브리드 검색(α 파라미터로 벡터/키워드 비율 조정)
• 내장 벡터화 모듈
• GraphQL 쿼리 언어
• 멀티 테넌시 지원

단점

• 운영 복잡도 높음
• 학습 곡선 가파름
• 리소스 요구량 많음

추천 대상: 하이브리드 검색과 GraphQL API가 필요한 프로덕션 애플리케이션.

Milvus — 엔터프라이즈 규모

Milvus는 수십억 규모의 벡터 유사도 검색을 위해 설계되었습니다. 대규모 엔터프라이즈 배포에 가장 많이 사용됩니다.

from pymilvus import connections, Collection, FieldSchema, CollectionSchema, DataType

connections.connect("default", host="localhost", port="19530")

# Define schema
fields = [
    FieldSchema(name="id", dtype=DataType.INT64, is_primary=True),
    FieldSchema(name="embedding", dtype=DataType.FLOAT_VECTOR, dim=1536)
]
schema = CollectionSchema(fields)
collection = Collection("documents", schema)

# Insert and search
collection.insert([[1, 2, 3], [embedding1, embedding2, embedding3]])
collection.search(
    data=[query_embedding],
    anns_field="embedding",
    param={"metric_type": "COSINE", "params": {"nprobe": 10}},
    limit=5
)

장점

• 수십억 벡터 규모 검증된 성능
• 다양한 인덱스 타입(IVF, HNSW, DiskANN) 지원
• GPU 가속 지원
• 활발한 엔터프라이즈 커뮤니티(Zilliz Cloud)

단점

• etcd, MinIO 등 복잡한 배포 요구
• 작은 프로젝트에 과도한 설계
• 운영 오버헤드 큼

추천 대상: 대규모 엔터프라이즈 배포와 DevOps 역량을 갖춘 팀.

Qdrant — 성능과 필터링의 조화

Qdrant는 Rust로 구현돼 뛰어난 성능과 풍부한 메타데이터 필터링 기능을 제공합니다. 최근 프로덕션 RAG에서 인기를 끌고 있습니다.

from qdrant_client import QdrantClient
from qdrant_client.models import VectorParams, Distance, PointStruct

client = QdrantClient("localhost", port=6333)

# Create collection
client.create_collection(
    collection_name="documents",
    vectors_config=VectorParams(size=1536, distance=Distance.COSINE)
)

# Upsert with rich payload
client.upsert(
    collection_name="documents",
    points=[
        PointStruct(id=1, vector=embedding, payload={"category": "news", "source": "api"}),
        # Add more points as needed
    ]
)

# Search with filter
results = client.search(
    collection_name="documents",
    query_vector=query_embedding,
    limit=5,
    filter={"must": [{"key": "category", "match": {"value": "news"}}]}
)

장점

• Rust 기반으로 낮은 레이턴시와 높은 처리량
• 고급 페이로드(메타데이터) 필터링 지원
• Flat 및 HNSW 인덱스 모두 지원
• Docker, 바이너리 등으로 손쉬운 셀프‑호스팅

단점

• Pinecone/Weaviate에 비해 생태계 규모 작음
• 내장 벡터화 모듈 부족(외부 임베딩 단계 필요)

추천 대상: 빠른 벡터 검색과 복잡한 메타데이터 필터링이 동시에 필요한 애플리케이션.