Trang chủ Bài viết AI cho Backend Developer Hybrid search trong RAG: kết hợp keyword và vector
AI cho Backend Developer 22/11/2026 10 lượt xem

Hybrid search trong RAG: kết hợp keyword và vector

Hybrid search trong RAG: kết hợp keyword và vector

Chatbot chăm sóc khách hàng của một shop điện máy chạy RAG bằng vector search. Khách hỏi "Nồi chiên không dầu bị bốc mùi nhựa lần đầu dùng có sao không?", bot tìm đúng đoạn hướng dẫn và trả lời rất ổn. Khách khác hỏi "Mã AF-5520 bảo hành bao lâu?", bot trả lời theo chính sách bảo hành của mã AF-5250, một mẫu khác hoàn toàn.

Không phải model kém. Với vector search, "AF-5520" và "AF-5250" là hai chuỗi trông rất giống nhau, nằm trong hai đoạn văn có cùng chủ đề "bảo hành nồi chiên", nên vector của chúng gần nhau. Embedding giỏi hiểu nghĩa, nhưng không được thiết kế để phân biệt chính xác từng ký tự trong một mã sản phẩm.

Trong khi đó, tìm kiếm theo từ khóa kiểu cũ (full-text search) sẽ khớp đúng "AF-5520" ngay lập tức, nhưng lại trượt câu hỏi về "bốc mùi nhựa" nếu tài liệu viết là "có mùi lạ khi sử dụng lần đầu". Hybrid search kết hợp cả hai để lấy điểm mạnh của từng bên. Bài này giải thích vì sao cần nó, cách gộp kết quả bằng RRF, và cách làm ngay trên PostgreSQL bạn đang có.

Vector search và keyword search giỏi ở đâu, trượt ở đâu

Hai cách tìm kiếm có điểm mù gần như đối xứng:

Loại câu hỏiVí dụVector searchKeyword search
Diễn đạt khác tài liệu"bốc mùi nhựa" và tài liệu viết "mùi lạ"TốtTrượt
Đồng nghĩa, viết tắt"nghỉ ốm" và "nghỉ hưởng chế độ ốm đau"TốtThường trượt
Mã sản phẩm, mã đơn"AF-5520", "DH-2026-00123"Hay nhầm mã gần giốngTốt
Số hiệu văn bản"Quyết định 125/QĐ-HĐQT"Hay nhầm sốTốt
Tên riêng, tên hiếmTên khách hàng, tên dự án nội bộKhông ổn địnhTốt
Câu hỏi dài, mơ hồ"hàng mua online bị lỗi thì làm sao"TốtTrung bình

Tài liệu doanh nghiệp Việt Nam có rất nhiều mã: mã sản phẩm, mã đơn, số hiệu văn bản, mã nhân viên, mã hồ sơ. Người dùng cũng hay gõ thẳng mã vào ô hỏi. Vì vậy chỉ dùng vector search thường không đủ cho RAG trong doanh nghiệp.

Một điều nữa: không phải câu hỏi nào có mã cũng nên đi qua RAG. "Đơn DH-2026-00123 đang ở đâu" là câu hỏi về dữ liệu trong bảng, nên dùng tool truy vấn đơn hàng (xem bài RAG là gì). Hybrid search dành cho trường hợp mã nằm trong tài liệu: chính sách bảo hành theo mã sản phẩm, quy chế được dẫn chiếu bằng số hiệu.

Hybrid search hoạt động thế nào

Ý tưởng gồm ba bước:

  1. Chạy vector search, lấy khoảng 20 kết quả đầu.

  2. Chạy keyword search (full-text), cũng lấy khoảng 20 kết quả đầu.

  3. Gộp hai danh sách thành một, lấy vài kết quả tốt nhất đưa vào prompt (hoặc đưa sang bước reranking).

Hybrid search: gộp kết quả vector search và keyword search bằng Reciprocal Rank Fusion

Bước 3 là chỗ cần suy nghĩ. Điểm của vector search là khoảng cách cosine, điểm của full-text là một điểm relevance theo thang khác hẳn. Cộng thẳng hai con số này giống như cộng điểm thi đại học với chỉ số BMI: phép cộng chạy được, kết quả vô nghĩa.

Reciprocal Rank Fusion (RRF): gộp theo thứ hạng, không theo điểm

RRF né vấn đề thang điểm bằng cách chỉ dùng thứ hạng. Mỗi tài liệu nhận điểm từ mỗi danh sách theo công thức:

score(d) = Σ 1 / (k + rank_i(d))

Trong đó rank_i(d) là thứ hạng của tài liệu d trong danh sách i (1, 2, 3...), và k là một hằng số làm mượt, giá trị hay dùng là 60. Tài liệu không có mặt trong một danh sách thì không nhận điểm từ danh sách đó.

Ví dụ với câu hỏi "Mã AF-5520 bảo hành bao lâu?":

ĐoạnHạng vectorHạng keywordĐiểm RRF (k = 60)
Bảo hành AF-52501không có1/61 ≈ 0,0164
Bảo hành AF-5520311/63 + 1/61 ≈ 0,0323
Chính sách bảo hành chung241/62 + 1/64 ≈ 0,0318
Hướng dẫn sử dụng AF-5520821/68 + 1/62 ≈ 0,0308

Đoạn đúng (bảo hành AF-5520) lên đầu vì nó xuất hiện ở cả hai danh sách. Đoạn sai (AF-5250) đứng nhất bên vector nhưng không có mặt bên keyword, nên tụt xuống cuối. Đó là trực giác của RRF: thứ được cả hai phương pháp đồng ý thì đáng tin hơn.

Ưu điểm của RRF là không cần chuẩn hóa điểm và gần như không cần tinh chỉnh. Nhược điểm là nó bỏ qua độ chênh điểm: hạng 1 cách hạng 2 rất xa hay rất gần đều như nhau. Cách thay thế là chuẩn hóa điểm từng bên về khoảng 0–1 rồi cộng có trọng số, nhưng cách này cần tinh chỉnh trọng số trên bộ câu hỏi thật.

Cách gộpƯu điểmNhược điểm
RRFĐơn giản, không cần chuẩn hóa, ít tham sốBỏ qua độ chênh lệch điểm
Chuẩn hóa + trọng sốTận dụng được độ tự tin của từng bênPhải tinh chỉnh trọng số, dễ overfit
Gộp rồi rerankChất lượng thường tốt nhấtThêm một bước, thêm độ trễ và chi phí

Làm hybrid search trên PostgreSQL

Nếu bạn đã dùng pgvector, phần keyword search có sẵn trong PostgreSQL: full-text search với tsvector và chỉ mục GIN. Không cần thêm hệ thống nào.

Thêm cột full-text và chỉ mục

ALTER TABLE document_chunks
    ADD COLUMN search_tsv tsvector
    GENERATED ALWAYS AS (to_tsvector('simple', content)) STORED;

CREATE INDEX ON document_chunks USING gin (search_tsv);

PostgreSQL không có cấu hình full-text dành riêng cho tiếng Việt, nên ví dụ dùng cấu hình simple: tách từ theo khoảng trắng và dấu câu, chuyển chữ thường, không bỏ stop word, không đưa về từ gốc. Với tiếng Việt, đây thường là điểm khởi đầu chấp nhận được, nhất là khi mục tiêu chính của keyword search là bắt mã và số hiệu.

Hai điểm cần lưu ý với tiếng Việt:

  • Người dùng gõ không dấu. "bao hanh" sẽ không khớp "bảo hành". Có thể lưu thêm một cột đã bỏ dấu (bằng extension unaccent hoặc xử lý trong code C# trước khi lưu) và tìm trên cả hai. Lưu ý unaccent không được khai báo là hàm immutable, nên không dùng thẳng trong cột generated được; hãy đọc tài liệu PostgreSQL hoặc bỏ dấu ở tầng ứng dụng.

  • Mã có dấu gạch. Cách bộ tách từ xử lý "AF-5520" (giữ nguyên hay tách thành nhiều phần) ảnh hưởng tới việc khớp. Hãy thử SELECT to_tsvector('simple', 'AF-5520') để xem chính xác nó sinh ra gì, rồi chọn cách chuẩn hóa mã cho phù hợp.

Nếu nhu cầu keyword search phức tạp hơn (xếp hạng BM25, tách từ tiếng Việt tốt hơn), có thể dùng extension bên thứ ba hoặc một search engine như Elasticsearch, OpenSearch. Hãy bắt đầu với full-text có sẵn và chỉ nâng cấp khi đo thấy cần.

Một câu SQL cho hybrid search với RRF

WITH semantic AS (
    SELECT id, ROW_NUMBER() OVER (ORDER BY embedding <=> $1) AS rank
    FROM document_chunks
    WHERE tenant_id = $3
    ORDER BY embedding <=> $1
    LIMIT 20
),
keyword AS (
    SELECT id, ROW_NUMBER() OVER (ORDER BY ts_rank_cd(search_tsv, query) DESC) AS rank
    FROM document_chunks, plainto_tsquery('simple', $2) AS query
    WHERE tenant_id = $3 AND search_tsv @@ query
    ORDER BY ts_rank_cd(search_tsv, query) DESC
    LIMIT 20
)
SELECT COALESCE(s.id, k.id) AS id,
       COALESCE(1.0 / (60 + s.rank), 0.0) + COALESCE(1.0 / (60 + k.rank), 0.0) AS score
FROM semantic s
FULL OUTER JOIN keyword k ON s.id = k.id
ORDER BY score DESC
LIMIT 5;

Tham số $1 là vector của câu hỏi, $2 là câu hỏi dạng chữ, $3 là tenant. FULL OUTER JOIN giữ lại cả đoạn chỉ có ở một bên. Số 20 và 60 là giá trị khởi đầu, không phải chân lý. Lưu ý plainto_tsquery nối các từ bằng phép AND, nên câu hỏi dài có thể không khớp đoạn nào ở nhánh keyword; khi đó kết quả chỉ còn nhánh vector, hệ thống vẫn chạy, chỉ là không được lợi từ hybrid. Bạn có thể thử websearch_to_tsquery hoặc tự trích mã, số hiệu trong câu hỏi để tìm keyword riêng cho chúng.

Hoặc gộp trong C#

Nếu hai nhánh tìm kiếm đến từ hai nguồn khác nhau (ví dụ pgvector và Elasticsearch), gộp ở tầng ứng dụng cũng đơn giản:

public static class Rrf
{
    public static IReadOnlyList<(long Id, double Score)> Fuse(
        IEnumerable<IReadOnlyList<long>> rankedLists, int k = 60, int top = 5)
    {
        var scores = new Dictionary<long, double>();

        foreach (var list in rankedLists)
        {
            for (var i = 0; i < list.Count; i++)
            {
                var rank = i + 1;
                scores[list[i]] = scores.GetValueOrDefault(list[i]) + 1.0 / (k + rank);
            }
        }

        return scores
            .OrderByDescending(kv => kv.Value)
            .Take(top)
            .Select(kv => (kv.Key, kv.Value))
            .ToList();
    }
}

// Sử dụng
var vectorIds = await vectorSearch.SearchAsync(questionEmbedding, limit: 20);
var keywordIds = await keywordSearch.SearchAsync(question, limit: 20);
var fused = Rrf.Fuse([vectorIds, keywordIds]);

vectorSearch và keywordSearch là các lớp bọc do bạn tự định nghĩa, trả về danh sách id đã sắp xếp theo mức liên quan. Cú pháp [vectorIds, keywordIds] là collection expression của C# 12 trở lên.

Đo xem hybrid có thật sự tốt hơn không

Hybrid search không miễn phí: thêm một truy vấn, thêm chỉ mục, thêm độ phức tạp. Hãy đo trước khi giữ nó:

  1. Lấy bộ câu hỏi thật (30–50 câu) đã dùng khi thử chunking, bổ sung thêm các câu có mã sản phẩm, số hiệu văn bản, tên riêng.

  2. Chạy ba cấu hình: chỉ vector, chỉ keyword, hybrid RRF.

  3. Đo hit rate: tỷ lệ câu hỏi có đoạn đúng trong 5 kết quả đầu. Tách riêng kết quả cho nhóm câu có mã và nhóm câu hỏi tự do.

Kết quả thường thấy là hybrid cải thiện rõ ở nhóm câu có mã, và giữ nguyên hoặc nhích nhẹ ở nhóm câu hỏi tự do. Nhưng "thường thấy" không thay được số đo trên dữ liệu của bạn.

Lỗi hay gặp và checklist

Lỗi hay gặp:

  • Cộng thẳng điểm cosine với điểm full-text. Hai thang điểm khác nhau, kết quả gộp bị một bên lấn át.

  • Quên tiếng Việt không dấu. Người dùng gõ "doi tra hang" và nhánh keyword không khớp gì cả.

  • Không áp cùng bộ lọc cho hai nhánh. Nhánh vector lọc theo tenant, nhánh keyword quên lọc, và tài liệu của tenant khác lọt vào kết quả. Đây là lỗi bảo mật, không chỉ là lỗi chất lượng.

  • Dùng hybrid search cho câu hỏi dữ liệu. "Đơn DH-2026-00123 ở đâu" cần tool truy vấn đơn, không cần tìm tài liệu.

  • Không đo theo nhóm câu hỏi. Hit rate trung bình tăng 2% có thể che giấu việc nhóm câu có mã tăng mạnh còn nhóm khác giảm.

Checklist:

  1. Người dùng của bạn có hay hỏi bằng mã, số hiệu, tên riêng không? Nếu có, hybrid search đáng thử.

  2. Đã có cột full-text và chỉ mục GIN cạnh cột vector?

  3. Đã xử lý trường hợp gõ không dấu?

  4. Hai nhánh tìm kiếm áp cùng bộ lọc quyền và hiệu lực?

  5. Gộp bằng thứ hạng (RRF) thay vì cộng điểm thô?

  6. Đã đo hit rate theo từng nhóm câu hỏi ở cả ba cấu hình?

Kết luận

Vector search hiểu nghĩa nhưng hay nhầm mã và số hiệu; keyword search bắt chính xác mã nhưng trượt khi người dùng diễn đạt khác tài liệu. Hybrid search chạy cả hai và gộp bằng RRF, ưu tiên những đoạn được cả hai phương pháp đồng ý. Trên PostgreSQL, bạn làm được điều này trong một câu SQL với pgvector và full-text search có sẵn, không cần thêm hệ thống nào.

Bước tiếp theo: liệt kê 10 câu hỏi có mã sản phẩm hoặc số hiệu văn bản từ log thật của hệ thống, chạy thử với vector search hiện tại và xem bao nhiêu câu trượt. Sau khi gộp được kết quả từ hai nhánh, bước giúp chọn ra đúng vài đoạn tốt nhất là reranking, bước bị bỏ qua nhiều nhất, chủ đề của bài kế tiếp.

Xem bản tóm tắt dưới một phút trên YouTube @teduco hoặc TikTok @teducolabs, và đọc thêm các bài khác trong chuyên mục AI cho Backend Developer.

Chia sẻ:

Bài viết liên quan

Zalo