Khi mô hình ngôn ngữ tổng quát không đáp ứng yêu cầu, bạn có hai lựa chọn chính: fine-tuning (huấn luyện mô hình trên dữ liệu của bạn) hoặc retrieval-augmented generation (cung cấp cho mô hình quyền truy cập dữ liệu tại thời điểm inference).
Khi nào dùng RAG
- Cơ sở kiến thức của bạn thay đổi thường xuyên — tài liệu sản phẩm, giá cả, chính sách.
- Bạn cần trích dẫn nguồn — RAG trả về tài liệu nguồn cùng với câu trả lời.
- Tốc độ triển khai quan trọng — RAG có thể hoạt động trong vài ngày.
Khi nào fine-tune
- Bạn cần mô hình áp dụng nhất quán một phong cách, giọng điệu hoặc định dạng cụ thể.
- Bạn đang thực hiện nhiệm vụ hẹp, được định nghĩa rõ ở khối lượng lớn — phân loại, trích xuất, tạo có cấu trúc.
Hầu hết hệ thống production dùng cả hai. Fine-tune cho phong cách và định dạng nhiệm vụ; dùng RAG cho kiến thức động.