Few-shot prompting: cho LLM ví dụ thay vì giải thích dài dòng
Một shop online muốn tự động phân loại tin nhắn khách vào 5 nhóm: hỏi hàng, theo dõi đơn, đổi trả, khiếu nại, khác. Dev viết system prompt giải thích từng nhóm, mỗi nhóm một đoạn, tổng cộng gần một trang. Chạy thử 100 tin nhắn thật, model vẫn xếp "áo giặt một lần đã phai màu, shop xử lý sao" vào nhóm đổi trả, trong khi quy trình của shop coi đây là khiếu nại chất lượng, phải chuyển cho quản lý.
Dev thêm một đoạn giải thích nữa. Không đỡ hơn bao nhiêu. Rồi thử cách khác: xóa bớt giải thích, thêm 6 tin nhắn mẫu kèm nhãn đúng, trong đó có đúng trường hợp "phai màu". Độ chính xác tăng thấy rõ trên cùng bộ 100 tin nhắn.
Đó là few-shot prompting: cho model xem ví dụ thay vì giải thích. Với người, "làm giống thế này" thường dễ hiểu hơn một trang quy định. Với LLM cũng vậy, và bài này giải thích vì sao, cách chọn ví dụ, và những cái bẫy khiến few-shot phản tác dụng.
Few-shot prompting là gì
Có ba mức, đặt tên theo số ví dụ đưa vào:
| Kiểu | Bạn đưa gì | Khi nào hợp |
|---|---|---|
| Zero-shot | Chỉ dẫn, không có ví dụ | Việc phổ biến, rõ ràng: tóm tắt, dịch, trả lời câu hỏi chung |
| One-shot | Chỉ dẫn và 1 ví dụ | Chủ yếu để chỉ định dạng đầu ra |
| Few-shot | Chỉ dẫn và vài ví dụ (thường 3 đến 10) | Việc có quy ước riêng: nhãn của công ty, giọng văn, định dạng đặc thù, ranh giới mập mờ |
Vì sao ví dụ hiệu quả? Bài LLM hoạt động thế nào đã nói: model đoán token tiếp theo dựa trên mọi thứ đứng trước. Khi context chứa vài cặp "đầu vào, đầu ra" có cùng một khuôn, cách tiếp tục hợp lý nhất là sinh đầu ra theo đúng khuôn đó. Ví dụ truyền đạt cùng lúc nhiều thứ khó diễn tả bằng lời: định dạng, độ dài, giọng văn, và quan trọng nhất là chỗ ranh giới giữa các nhãn.

Prompt tệ và prompt tốt: phân loại tin nhắn khách
Prompt chỉ có giải thích:
Phân loại tin nhắn của khách vào một trong các nhóm: HOI_HANG, THEO_DOI_DON,
DOI_TRA, KHIEU_NAI, KHAC. Đổi trả là khi khách muốn đổi size, đổi màu hoặc trả
hàng. Khiếu nại là khi khách không hài lòng. Chỉ trả về tên nhóm.
Vấn đề: "không hài lòng" và "muốn đổi" chồng lên nhau. Khách muốn đổi vì áo phai màu là cả hai. Bạn có thể viết thêm điều kiện, nhưng sẽ luôn có trường hợp mới rơi vào khe hở.
Prompt có ví dụ chọn đúng chỗ ranh giới:
Phân loại tin nhắn khách của shop thời trang. Chỉ trả về tên nhóm.
Tin nhắn: "Áo này còn size M màu be không shop?"
Nhóm: HOI_HANG
Tin nhắn: "Đơn em đặt hôm thứ 2 sao chưa thấy giao vậy"
Nhóm: THEO_DOI_DON
Tin nhắn: "Em mặc thử hơi chật, đổi sang size L được không ạ"
Nhóm: DOI_TRA
Tin nhắn: "Quần mới giặt lần đầu đã bung chỉ ở đáy, em muốn đổi cái khác"
Nhóm: KHIEU_NAI
Tin nhắn: "Shop giao nhầm màu, em đặt đen mà nhận được xanh"
Nhóm: KHIEU_NAI
Tin nhắn: "Shop có tuyển cộng tác viên bán hàng không"
Nhóm: KHAC
Để ý ví dụ thứ ba và thứ tư: cả hai đều "muốn đổi", nhưng một cái do khách chọn sai size (đổi trả thường), một cái do lỗi sản phẩm (khiếu nại). Hai ví dụ đặt cạnh nhau dạy model đúng quy ước của shop mà không cần một đoạn giải thích nào. Ví dụ thứ năm thêm một lý do khác của khiếu nại: lỗi từ phía shop.
Kết hợp tốt nhất thường là chỉ dẫn ngắn cộng ví dụ: một câu nói rõ quy tắc cốt lõi ("lỗi do sản phẩm hoặc do shop là KHIEU_NAI, kể cả khi khách muốn đổi"), cộng vài ví dụ minh họa quy tắc đó.
Đặt ví dụ ở đâu: trong system prompt hay thành cặp tin nhắn
Có hai cách phổ biến khi gọi API chat:
Ví dụ nằm trong system prompt dưới dạng văn bản như ở trên. Đơn giản, dễ đọc, dễ quản lý.
Ví dụ thành các cặp tin nhắn user và assistant giả lập, đứng trước câu hỏi thật. Model "thấy" như thể chính nó đã trả lời đúng mấy lần trước.
Dạng cặp tin nhắn (tên field khác nhau giữa các nhà cung cấp):
{
"messages": [
{ "role": "system", "content": "Phân loại tin nhắn khách của shop thời trang. Chỉ trả về tên nhóm." },
{ "role": "user", "content": "Em mặc thử hơi chật, đổi sang size L được không ạ" },
{ "role": "assistant", "content": "DOI_TRA" },
{ "role": "user", "content": "Quần mới giặt lần đầu đã bung chỉ ở đáy, em muốn đổi cái khác" },
{ "role": "assistant", "content": "KHIEU_NAI" },
{ "role": "user", "content": "Áo giặt một lần đã phai màu, shop xử lý sao" }
]
}
Không có cách nào đúng tuyệt đối. Dạng cặp tin nhắn hợp với việc dạy giọng văn trả lời khách; dạng văn bản trong system prompt dễ cache và dễ review hơn. Thử cả hai trên bộ dữ liệu của bạn rồi chọn. Nếu cần nhãn trả về chắc chắn đúng danh sách, kết hợp với structured output dùng enum.
Chọn ví dụ thế nào
Chất lượng few-shot nằm gần như hoàn toàn ở việc chọn ví dụ. Vài nguyên tắc:
Lấy từ dữ liệu thật. Tin nhắn thật của khách có lỗi chính tả, viết tắt, không dấu. Ví dụ do dev tự nghĩ ra thường quá sạch, model học được khuôn của văn bản sạch.
Đặt ví dụ ở chỗ ranh giới. Không cần ví dụ cho trường hợp hiển nhiên. Cần ví dụ cho trường hợp hai nhãn dễ nhầm.
Đa dạng về hình thức. Câu ngắn và câu dài, có dấu và không dấu, lịch sự và cáu kỉnh. Nếu mọi ví dụ đều dài 10 chữ, model có thể ngầm hiểu tin nhắn dài là "khác thường".
Cân bằng nhãn. 5 ví dụ KHIEU_NAI và 1 ví dụ HOI_HANG sẽ kéo model về phía KHIEU_NAI.
Xáo thứ tự. Đừng xếp theo nhóm; ví dụ cuối cùng có ảnh hưởng lớn hơn bạn nghĩ.
Đầu ra của ví dụ phải đúng định dạng tuyệt đối. Một ví dụ có dấu chấm cuối dòng là đủ để model thỉnh thoảng thêm dấu chấm.
Vài ví dụ tốt hơn nhiều ví dụ vừa vừa. Bắt đầu với 3 đến 6, đo, rồi mới tăng.
Lỗi hay gặp với few-shot
| Lỗi | Triệu chứng | Cách sửa |
|---|---|---|
| Model bắt chước bề mặt | Câu trả lời CSKH luôn mở đầu "Dạ chào anh Minh" vì ví dụ có tên đó | Đa dạng hóa chi tiết bề mặt, dùng tên giả khác nhau hoặc bỏ tên |
| Lộ dữ liệu ví dụ vào câu trả lời | Model trả lời khách bằng mã đơn DH1001 lấy từ ví dụ | Dùng giá trị rõ là giả (DH-XXXX) hoặc đặt ví dụ trong khối gắn nhãn "ví dụ" |
| Ví dụ mâu thuẫn với chỉ dẫn | Chỉ dẫn nói "trả lời ngắn", ví dụ dài 5 câu | Ví dụ thắng; sửa ví dụ cho khớp |
| Lệch nhãn | Model nghiêng về nhãn xuất hiện nhiều trong ví dụ | Cân bằng số ví dụ mỗi nhãn |
| Ví dụ lỗi thời | Quy trình đổi trả đổi rồi, ví dụ vẫn theo quy trình cũ | Quản lý ví dụ như dữ liệu có phiên bản, review định kỳ |
| Quá nhiều ví dụ | Chi phí tăng, độ trễ tăng, chất lượng không tăng | Đo bằng eval; dùng few-shot động thay vì nhồi tất cả |
Lỗi đầu tiên đặc biệt hay gặp với ví dụ dạy giọng văn. Model học mọi thứ trong ví dụ, không chỉ thứ bạn muốn nó học. Đưa 3 ví dụ đều xưng "em" và kết thúc bằng "ạ", bạn sẽ nhận được chatbot lễ phép đến mức khách tưởng đang nói chuyện với một bạn thực tập ngày đầu đi làm. Có khi đó chính là điều bạn muốn, nhưng nên là lựa chọn có chủ đích.
Few-shot động: chọn ví dụ theo từng câu hỏi
Khi số trường hợp đặc thù lớn, ví dụ hệ thống phân loại chứng từ kế toán với vài chục loại, bạn không thể đưa ví dụ cho tất cả vào mọi request. Giải pháp là few-shot động: lưu một kho ví dụ đã gán nhãn, mỗi request tìm vài ví dụ giống câu hỏi hiện tại nhất để đưa vào.
Kỹ thuật tìm giống nhau chính là embedding và tìm kiếm vector, giống bước truy xuất của RAG, chỉ khác là thứ được truy xuất là ví dụ chứ không phải tài liệu. Khung C# minh họa (IExampleStore và Message là kiểu do bạn tự định nghĩa; SearchSimilarAsync có thể dùng pgvector bên dưới):
public sealed record LabeledExample(string Input, string Label);
public async Task<List<Message>> BuildAsync(string customerMessage, CancellationToken ct)
{
// Lấy 12 ví dụ gần nghĩa nhất, chọn 6, tối đa 2 ví dụ mỗi nhãn
var similar = await exampleStore.SearchSimilarAsync(customerMessage, top: 12, ct);
var picked = similar
.GroupBy(e => e.Label)
.SelectMany(g => g.Take(2))
.Take(6)
.OrderBy(_ => Random.Shared.Next()) // xáo để không dồn một nhãn ở cuối
.ToList();
var messages = new List<Message> { Message.System(SystemPrompts.TicketClassifier) };
foreach (var ex in picked)
{
messages.Add(Message.User(ex.Input));
messages.Add(Message.Assistant(ex.Label));
}
messages.Add(Message.User(customerMessage));
return messages;
}
Một đánh đổi cần biết: few-shot động làm phần ví dụ thay đổi theo từng request, nên phần đó không hưởng được prompt caching. Nếu bộ ví dụ cố định đã đủ tốt, giữ cố định để vừa rẻ vừa dễ debug. Ngoài ra, việc xáo ngẫu nhiên giúp tránh thiên lệch theo thứ tự nhưng làm kết quả khó tái lập; khi cần tái lập để debug, dùng seed cố định theo mã request.
Kho ví dụ còn có lợi ích phụ: mỗi lần nhân viên CSKH sửa nhãn sai của model, thêm tin nhắn đó vào kho. Hệ thống tự tốt lên theo thời gian mà không cần fine-tuning.
Checklist áp dụng few-shot
Bắt đầu bằng zero-shot, đo trên 50 đến 100 mẫu thật, tìm các lỗi lặp lại.
Với mỗi loại lỗi, thêm một ví dụ ở đúng chỗ ranh giới đó.
Lấy ví dụ từ dữ liệu thật, đã ẩn thông tin cá nhân.
Cân bằng nhãn, đa dạng hình thức, xáo thứ tự.
Đầu ra của ví dụ đúng định dạng tuyệt đối, khớp với chỉ dẫn.
Kiểm tra model có bắt chước chi tiết bề mặt hoặc lộ dữ liệu ví dụ không.
Đo lại trên cùng bộ mẫu sau mỗi lần đổi ví dụ.
Quản lý ví dụ có phiên bản, review khi quy trình nghiệp vụ thay đổi.
Kết luận
Few-shot prompting là cách rẻ và nhanh nhất để dạy model quy ước riêng của bạn: nhãn, định dạng, giọng văn, và nhất là những trường hợp ranh giới mà giải thích bằng lời mãi không xong. Nhưng model học mọi thứ trong ví dụ, kể cả thứ bạn không định dạy, nên chọn ví dụ là một việc cần làm có chủ đích và có đo đạc.
Bước tiếp theo: lấy 10 câu trả lời sai gần đây của tính năng LLM bạn đang làm, chọn 3 câu tiêu biểu nhất, sửa nhãn đúng và đưa vào làm ví dụ, rồi chạy lại cả 10 câu. Bài kế tiếp trong series giải thích vì sao nhồi nhiều context lại làm model kém đi, lời nhắc hữu ích trước khi bạn thêm ví dụ thứ 50.
Xem bản tóm tắt dưới một phút trên YouTube @teduco hoặc TikTok @teducolabs, và đọc thêm các bài khác trong chuyên mục AI cho Backend Developer.
Bài viết liên quan
5 lý do RAG trả lời sai và cách tìm đúng chỗ hỏng
RAG trả lời sai hiếm khi do model kém. Bài chỉ ra 5 chỗ hỏng thường gặp từ dữ liệu, chunking, tìm kiếm đến prompt, kèm cách khoanh vùng lỗi bằng log.
Đọc thêm
Reranking trong RAG: bước bị bỏ qua nhiều nhất
Reranking chấm lại vài chục đoạn tìm được để chọn ra vài đoạn thật sự trả lời câu hỏi. Bài giải thích cơ chế, cách gắn vào pipeline C# và lỗi hay gặp.
Đọc thêm
Hybrid search trong RAG: kết hợp keyword và vector
Vector search giỏi hiểu nghĩa nhưng hay trượt mã đơn hàng, số hiệu văn bản. Hybrid search kết hợp keyword và vector bằng RRF, có ví dụ SQL PostgreSQL và C#.
Đọc thêm
pgvector: vì sao PostgreSQL thường đủ làm vector DB
pgvector biến PostgreSQL thành vector database cho RAG. Hướng dẫn SQL, C#, so sánh với vector DB chuyên dụng và khi nào pgvector không đủ.
Đọc thêm
Chunking trong RAG: cắt tài liệu sai thì kết quả hỏng
Chunking là bước cắt tài liệu thành đoạn nhỏ trước khi đưa vào RAG. Bài so sánh các cách chunking, ví dụ với quy chế tiếng Việt và code C# cắt theo Điều, Khoản.
Đọc thêm
RAG là gì? Khi nào cần và khi nào không cần
RAG là cách đưa đúng đoạn tài liệu vào prompt để model trả lời theo dữ liệu thật. Bài này giải thích pipeline và khi nào bạn không cần RAG.
Đọc thêm
Quản lý prompt như code: versioning, review và test
Prompt là logic nghiệp vụ, sửa một câu có thể đổi hành vi cả hệ thống. Bài hướng dẫn quản lý prompt như code: lưu trong repo, versioning, review, test và rollback.
Đọc thêm
Chain-of-thought: cho model suy nghĩ trước khi trả lời
Chain-of-thought là cho model viết các bước suy luận trước khi chốt đáp án. Bài giải thích vì sao nó hiệu quả, khi nào nên dùng và cách dùng trong production.
Đọc thêm
Vì sao nhồi nhiều context lại làm model kém đi
Context window lớn không có nghĩa là nhồi càng nhiều càng tốt. Bài giải thích vì sao model trả lời kém đi khi context dài và cách chọn lọc context đúng.
Đọc thêm
Context engineering là gì, vì sao quan trọng hơn prompt
Context engineering là quyết định cái gì vào context window, cái gì phải ra, theo thứ tự nào. Câu prompt chỉ là một phần nhỏ của những gì model thấy.
Đọc thêm