Đánh giá và tối ưu hệ thống Retrievalaugmented Generation (RAG) cho Chatbot doanh nghiệp ứng dụng Generative AI tại Việt Nam

Abstract

Doanh nghiệp Việt Nam ngày càng có nhu cầu triển khai chatbot nội bộ dựa trên AI để khai thác kho tri thức riêng, nhưng các nền tảng công khai đặt ra rủi ro về bảo mật dữ liệu và tuân thủ pháp lý. Kiến trúc Retrieval-Augmented Generation (RAG) — kết nối mô hình ngôn ngữ lớn với cơ sở dữ liệu vector chứa tri thức doanh nghiệp — là giải pháp phù hợp, song hiệu suất thực tế với tiếng Việt chưa được đánh giá có hệ thống. Nghiên cứu này thực hiện benchmarking hai mô hình ngôn ngữ lớn (DeepSeek-V3 và Gemini 2.5 Flash) kết hợp với hai cơ sở dữ liệu vector (Chroma và OpenSearch) trên 699 câu hỏi kiểm thử, trích xuất từ kho tri thức doanh nghiệp Việt Nam thực tế (~1.000 trang, ~500.000 từ). Nghiên cứu đồng thời đề xuất mô hình Platform-as-a-Service "Enterprise RAG Platform" (ERAP) — nền tảng chuẩn hóa phục vụ doanh nghiệp trong nước. Kết quả cho thấy tất cả cấu hình đạt ngưỡng Xuất sắc về truy xuất (Hit@k = 1.0, Recall@k ≥ 0.9993). OpenSearch cải thiện đáng kể chất lượng phản hồi so với Chroma (+8–9,8 điểm phần trăm, AR ≥ 0.87). Gemini vượt trội về Answer Relevancy và chất lượng tiếng Việt; DeepSeek có ưu thế về Faithfulness với tỷ lệ ảo giác thấp hơn. Nghiên cứu đề xuất triển khai hai tầng: ERAP Standard (Gemini + Chroma) cho PoC nhanh và ERAP Production (Gemini + OpenSearch) cho ứng dụng quan trọng, với tùy chọn DeepSeek cho các yêu cầu tuân thủ nghiêm ngặt.