Trang chủ Bài viết AI cho Backend Developer Few-shot prompting: cho LLM ví dụ thay vì giải thích dài dòng
AI cho Backend Developer 22/11/2026 10 lượt xem

Few-shot prompting: cho LLM ví dụ thay vì giải thích dài dòng

Few-shot prompting: cho LLM ví dụ thay vì giải thích dài dòng

Một shop online muốn tự động phân loại tin nhắn khách vào 5 nhóm: hỏi hàng, theo dõi đơn, đổi trả, khiếu nại, khác. Dev viết system prompt giải thích từng nhóm, mỗi nhóm một đoạn, tổng cộng gần một trang. Chạy thử 100 tin nhắn thật, model vẫn xếp "áo giặt một lần đã phai màu, shop xử lý sao" vào nhóm đổi trả, trong khi quy trình của shop coi đây là khiếu nại chất lượng, phải chuyển cho quản lý.

Dev thêm một đoạn giải thích nữa. Không đỡ hơn bao nhiêu. Rồi thử cách khác: xóa bớt giải thích, thêm 6 tin nhắn mẫu kèm nhãn đúng, trong đó có đúng trường hợp "phai màu". Độ chính xác tăng thấy rõ trên cùng bộ 100 tin nhắn.

Đó là few-shot prompting: cho model xem ví dụ thay vì giải thích. Với người, "làm giống thế này" thường dễ hiểu hơn một trang quy định. Với LLM cũng vậy, và bài này giải thích vì sao, cách chọn ví dụ, và những cái bẫy khiến few-shot phản tác dụng.

Few-shot prompting là gì

Có ba mức, đặt tên theo số ví dụ đưa vào:

KiểuBạn đưa gìKhi nào hợp
Zero-shotChỉ dẫn, không có ví dụViệc phổ biến, rõ ràng: tóm tắt, dịch, trả lời câu hỏi chung
One-shotChỉ dẫn và 1 ví dụChủ yếu để chỉ định dạng đầu ra
Few-shotChỉ dẫn và vài ví dụ (thường 3 đến 10)Việc có quy ước riêng: nhãn của công ty, giọng văn, định dạng đặc thù, ranh giới mập mờ

Vì sao ví dụ hiệu quả? Bài LLM hoạt động thế nào đã nói: model đoán token tiếp theo dựa trên mọi thứ đứng trước. Khi context chứa vài cặp "đầu vào, đầu ra" có cùng một khuôn, cách tiếp tục hợp lý nhất là sinh đầu ra theo đúng khuôn đó. Ví dụ truyền đạt cùng lúc nhiều thứ khó diễn tả bằng lời: định dạng, độ dài, giọng văn, và quan trọng nhất là chỗ ranh giới giữa các nhãn.

So sánh zero-shot và few-shot prompting khi phân loại tin nhắn khách

Prompt tệ và prompt tốt: phân loại tin nhắn khách

Prompt chỉ có giải thích:

Phân loại tin nhắn của khách vào một trong các nhóm: HOI_HANG, THEO_DOI_DON,
DOI_TRA, KHIEU_NAI, KHAC. Đổi trả là khi khách muốn đổi size, đổi màu hoặc trả
hàng. Khiếu nại là khi khách không hài lòng. Chỉ trả về tên nhóm.

Vấn đề: "không hài lòng" và "muốn đổi" chồng lên nhau. Khách muốn đổi vì áo phai màu là cả hai. Bạn có thể viết thêm điều kiện, nhưng sẽ luôn có trường hợp mới rơi vào khe hở.

Prompt có ví dụ chọn đúng chỗ ranh giới:

Phân loại tin nhắn khách của shop thời trang. Chỉ trả về tên nhóm.

Tin nhắn: "Áo này còn size M màu be không shop?"
Nhóm: HOI_HANG

Tin nhắn: "Đơn em đặt hôm thứ 2 sao chưa thấy giao vậy"
Nhóm: THEO_DOI_DON

Tin nhắn: "Em mặc thử hơi chật, đổi sang size L được không ạ"
Nhóm: DOI_TRA

Tin nhắn: "Quần mới giặt lần đầu đã bung chỉ ở đáy, em muốn đổi cái khác"
Nhóm: KHIEU_NAI

Tin nhắn: "Shop giao nhầm màu, em đặt đen mà nhận được xanh"
Nhóm: KHIEU_NAI

Tin nhắn: "Shop có tuyển cộng tác viên bán hàng không"
Nhóm: KHAC

Để ý ví dụ thứ ba và thứ tư: cả hai đều "muốn đổi", nhưng một cái do khách chọn sai size (đổi trả thường), một cái do lỗi sản phẩm (khiếu nại). Hai ví dụ đặt cạnh nhau dạy model đúng quy ước của shop mà không cần một đoạn giải thích nào. Ví dụ thứ năm thêm một lý do khác của khiếu nại: lỗi từ phía shop.

Kết hợp tốt nhất thường là chỉ dẫn ngắn cộng ví dụ: một câu nói rõ quy tắc cốt lõi ("lỗi do sản phẩm hoặc do shop là KHIEU_NAI, kể cả khi khách muốn đổi"), cộng vài ví dụ minh họa quy tắc đó.

Đặt ví dụ ở đâu: trong system prompt hay thành cặp tin nhắn

Có hai cách phổ biến khi gọi API chat:

  1. Ví dụ nằm trong system prompt dưới dạng văn bản như ở trên. Đơn giản, dễ đọc, dễ quản lý.

  2. Ví dụ thành các cặp tin nhắn user và assistant giả lập, đứng trước câu hỏi thật. Model "thấy" như thể chính nó đã trả lời đúng mấy lần trước.

Dạng cặp tin nhắn (tên field khác nhau giữa các nhà cung cấp):

{
  "messages": [
    { "role": "system", "content": "Phân loại tin nhắn khách của shop thời trang. Chỉ trả về tên nhóm." },
    { "role": "user", "content": "Em mặc thử hơi chật, đổi sang size L được không ạ" },
    { "role": "assistant", "content": "DOI_TRA" },
    { "role": "user", "content": "Quần mới giặt lần đầu đã bung chỉ ở đáy, em muốn đổi cái khác" },
    { "role": "assistant", "content": "KHIEU_NAI" },
    { "role": "user", "content": "Áo giặt một lần đã phai màu, shop xử lý sao" }
  ]
}

Không có cách nào đúng tuyệt đối. Dạng cặp tin nhắn hợp với việc dạy giọng văn trả lời khách; dạng văn bản trong system prompt dễ cache và dễ review hơn. Thử cả hai trên bộ dữ liệu của bạn rồi chọn. Nếu cần nhãn trả về chắc chắn đúng danh sách, kết hợp với structured output dùng enum.

Chọn ví dụ thế nào

Chất lượng few-shot nằm gần như hoàn toàn ở việc chọn ví dụ. Vài nguyên tắc:

  • Lấy từ dữ liệu thật. Tin nhắn thật của khách có lỗi chính tả, viết tắt, không dấu. Ví dụ do dev tự nghĩ ra thường quá sạch, model học được khuôn của văn bản sạch.

  • Đặt ví dụ ở chỗ ranh giới. Không cần ví dụ cho trường hợp hiển nhiên. Cần ví dụ cho trường hợp hai nhãn dễ nhầm.

  • Đa dạng về hình thức. Câu ngắn và câu dài, có dấu và không dấu, lịch sự và cáu kỉnh. Nếu mọi ví dụ đều dài 10 chữ, model có thể ngầm hiểu tin nhắn dài là "khác thường".

  • Cân bằng nhãn. 5 ví dụ KHIEU_NAI và 1 ví dụ HOI_HANG sẽ kéo model về phía KHIEU_NAI.

  • Xáo thứ tự. Đừng xếp theo nhóm; ví dụ cuối cùng có ảnh hưởng lớn hơn bạn nghĩ.

  • Đầu ra của ví dụ phải đúng định dạng tuyệt đối. Một ví dụ có dấu chấm cuối dòng là đủ để model thỉnh thoảng thêm dấu chấm.

  • Vài ví dụ tốt hơn nhiều ví dụ vừa vừa. Bắt đầu với 3 đến 6, đo, rồi mới tăng.

Lỗi hay gặp với few-shot

LỗiTriệu chứngCách sửa
Model bắt chước bề mặtCâu trả lời CSKH luôn mở đầu "Dạ chào anh Minh" vì ví dụ có tên đóĐa dạng hóa chi tiết bề mặt, dùng tên giả khác nhau hoặc bỏ tên
Lộ dữ liệu ví dụ vào câu trả lờiModel trả lời khách bằng mã đơn DH1001 lấy từ ví dụDùng giá trị rõ là giả (DH-XXXX) hoặc đặt ví dụ trong khối gắn nhãn "ví dụ"
Ví dụ mâu thuẫn với chỉ dẫnChỉ dẫn nói "trả lời ngắn", ví dụ dài 5 câuVí dụ thắng; sửa ví dụ cho khớp
Lệch nhãnModel nghiêng về nhãn xuất hiện nhiều trong ví dụCân bằng số ví dụ mỗi nhãn
Ví dụ lỗi thờiQuy trình đổi trả đổi rồi, ví dụ vẫn theo quy trình cũQuản lý ví dụ như dữ liệu có phiên bản, review định kỳ
Quá nhiều ví dụChi phí tăng, độ trễ tăng, chất lượng không tăngĐo bằng eval; dùng few-shot động thay vì nhồi tất cả

Lỗi đầu tiên đặc biệt hay gặp với ví dụ dạy giọng văn. Model học mọi thứ trong ví dụ, không chỉ thứ bạn muốn nó học. Đưa 3 ví dụ đều xưng "em" và kết thúc bằng "ạ", bạn sẽ nhận được chatbot lễ phép đến mức khách tưởng đang nói chuyện với một bạn thực tập ngày đầu đi làm. Có khi đó chính là điều bạn muốn, nhưng nên là lựa chọn có chủ đích.

Few-shot động: chọn ví dụ theo từng câu hỏi

Khi số trường hợp đặc thù lớn, ví dụ hệ thống phân loại chứng từ kế toán với vài chục loại, bạn không thể đưa ví dụ cho tất cả vào mọi request. Giải pháp là few-shot động: lưu một kho ví dụ đã gán nhãn, mỗi request tìm vài ví dụ giống câu hỏi hiện tại nhất để đưa vào.

Kỹ thuật tìm giống nhau chính là embedding và tìm kiếm vector, giống bước truy xuất của RAG, chỉ khác là thứ được truy xuất là ví dụ chứ không phải tài liệu. Khung C# minh họa (IExampleStore và Message là kiểu do bạn tự định nghĩa; SearchSimilarAsync có thể dùng pgvector bên dưới):

public sealed record LabeledExample(string Input, string Label);

public async Task<List<Message>> BuildAsync(string customerMessage, CancellationToken ct)
{
    // Lấy 12 ví dụ gần nghĩa nhất, chọn 6, tối đa 2 ví dụ mỗi nhãn
    var similar = await exampleStore.SearchSimilarAsync(customerMessage, top: 12, ct);
    var picked = similar
        .GroupBy(e => e.Label)
        .SelectMany(g => g.Take(2))
        .Take(6)
        .OrderBy(_ => Random.Shared.Next())   // xáo để không dồn một nhãn ở cuối
        .ToList();

    var messages = new List<Message> { Message.System(SystemPrompts.TicketClassifier) };
    foreach (var ex in picked)
    {
        messages.Add(Message.User(ex.Input));
        messages.Add(Message.Assistant(ex.Label));
    }
    messages.Add(Message.User(customerMessage));
    return messages;
}

Một đánh đổi cần biết: few-shot động làm phần ví dụ thay đổi theo từng request, nên phần đó không hưởng được prompt caching. Nếu bộ ví dụ cố định đã đủ tốt, giữ cố định để vừa rẻ vừa dễ debug. Ngoài ra, việc xáo ngẫu nhiên giúp tránh thiên lệch theo thứ tự nhưng làm kết quả khó tái lập; khi cần tái lập để debug, dùng seed cố định theo mã request.

Kho ví dụ còn có lợi ích phụ: mỗi lần nhân viên CSKH sửa nhãn sai của model, thêm tin nhắn đó vào kho. Hệ thống tự tốt lên theo thời gian mà không cần fine-tuning.

Checklist áp dụng few-shot

  1. Bắt đầu bằng zero-shot, đo trên 50 đến 100 mẫu thật, tìm các lỗi lặp lại.

  2. Với mỗi loại lỗi, thêm một ví dụ ở đúng chỗ ranh giới đó.

  3. Lấy ví dụ từ dữ liệu thật, đã ẩn thông tin cá nhân.

  4. Cân bằng nhãn, đa dạng hình thức, xáo thứ tự.

  5. Đầu ra của ví dụ đúng định dạng tuyệt đối, khớp với chỉ dẫn.

  6. Kiểm tra model có bắt chước chi tiết bề mặt hoặc lộ dữ liệu ví dụ không.

  7. Đo lại trên cùng bộ mẫu sau mỗi lần đổi ví dụ.

  8. Quản lý ví dụ có phiên bản, review khi quy trình nghiệp vụ thay đổi.

Kết luận

Few-shot prompting là cách rẻ và nhanh nhất để dạy model quy ước riêng của bạn: nhãn, định dạng, giọng văn, và nhất là những trường hợp ranh giới mà giải thích bằng lời mãi không xong. Nhưng model học mọi thứ trong ví dụ, kể cả thứ bạn không định dạy, nên chọn ví dụ là một việc cần làm có chủ đích và có đo đạc.

Bước tiếp theo: lấy 10 câu trả lời sai gần đây của tính năng LLM bạn đang làm, chọn 3 câu tiêu biểu nhất, sửa nhãn đúng và đưa vào làm ví dụ, rồi chạy lại cả 10 câu. Bài kế tiếp trong series giải thích vì sao nhồi nhiều context lại làm model kém đi, lời nhắc hữu ích trước khi bạn thêm ví dụ thứ 50.

Xem bản tóm tắt dưới một phút trên YouTube @teduco hoặc TikTok @teducolabs, và đọc thêm các bài khác trong chuyên mục AI cho Backend Developer.

Chia sẻ:

Bài viết liên quan

Zalo