Đánh giá truy xuất đo mức độ một hệ thống RAG tìm và sử dụng đúng ngữ cảnh. Tìm hiểu các chỉ số, bộ ba RAG và thực hành tốt nhất.

Trên trang này
Tóm tắt
Đánh giá truy xuất là việc đo lường một hệ thống truy xuất tìm đúng tài liệu đến mức nào và một mô hình sử dụng chúng trung thực đến mức nào, dùng các chỉ số như độ thu hồi tại k, độ chính xác tại k, MRR, NDCG và độ trung thực để đánh giá chất lượng của một đường ống RAG.
Muốn tìm hiểu sâu hơn? Hãy hỏi
Đánh giá truy xuất là kỷ luật đo xem một hệ thống truy xuất có đưa ra đúng thông tin hay không, và câu trả lời được sinh ra có thực sự sử dụng thông tin đó tốt hay không. Trong một đường ống tạo sinh tăng cường truy xuất, một câu trả lời tốt phụ thuộc vào hai điều đúng: bộ truy xuất tìm được ngữ cảnh liên quan, và mô hình giữ trung thực với ngữ cảnh đó. Đánh giá truy xuất đặt con số cho cả hai, để các đội ngũ chẩn đoán được lỗi và cải thiện chất lượng thay vì phỏng đoán.
Điều này quan trọng vì một hệ thống RAG có thể thất bại một cách âm thầm. Một câu trả lời có thể nghe trôi chảy nhưng dựa trên những đoạn sai, hoặc bộ truy xuất có thể bỏ sót các nguồn then chốt mà mô hình cần. Với bất kỳ ai xây dựng hệ thống RAG, hoặc muốn trở thành nguồn mà chúng trích dẫn, việc hiểu cách các hệ thống này được chấm điểm sẽ cho thấy chính xác nội dung tốt, có thể truy xuất được trông như thế nào.
Đánh giá truy xuất xem xét riêng và đồng thời hai nửa của một đường ống RAG. Nửa truy xuất hỏi hệ thống có tìm được thông tin liên quan về mặt ngữ nghĩa hay không. Nửa sinh nội dung hỏi câu trả lời có ý nghĩa, có căn cứ và đúng chủ đề hay không. Đánh giá riêng từng nửa là cách giúp bạn phân biệt một vấn đề truy xuất với một vấn đề sinh nội dung, và đó là bước đầu tiên để sửa cả hai.
Đây là một nhánh chuyên sâu của đánh giá LLM. Trong khi đánh giá mô hình nói chung có thể chấm độ trôi chảy hay khả năng suy luận, đánh giá truy xuất tập trung vào bằng chứng: ngữ cảnh đúng có được truy xuất không, và mô hình có tôn trọng nó không. Vì câu trả lời RAG chỉ tốt bằng các đoạn đứng sau nó, góc nhìn lấy bằng chứng làm trung tâm này là thiết yếu để xây dựng các hệ thống mà con người có thể tin cậy.
Bốn chỉ số làm nền tảng cho phía truy xuất. Độ thu hồi tại k là tỷ lệ tất cả tài liệu liên quan có mặt trong top k, với langcopilot đề xuất mục tiêu ít nhất 80% cho các truy vấn quan trọng. Độ chính xác tại k là phần của top k thực sự liên quan, và độ chính xác cao hơn nghĩa là mô hình ít bị nhiễu hơn. Hai chỉ số này là xương sống để đo độ phủ truy xuất và chất lượng.
Vị trí xếp hạng cũng quan trọng. Thứ hạng nghịch đảo trung bình (MRR) lấy trung bình nghịch đảo thứ hạng của kết quả liên quan đầu tiên, được 1,0 khi nó ở vị trí đầu, 0,5 khi ở vị trí thứ hai, và gần bằng không khi bị chôn sâu, với mục tiêu trên 0,7 cho các hệ thống hỏi đáp. Độ lợi tích lũy chiết khấu chuẩn hóa (NDCG) xử lý mức độ liên quan theo bậc và chiết khấu kết quả theo thứ hạng, nên một mục liên quan ở vị trí một được tính cao hơn ở vị trí mười, với langcopilot nêu mục tiêu trên 0,85 cho các lĩnh vực được định nghĩa rõ ràng. NDCG là lựa chọn tự nhiên khi đánh giá xếp hạng đoạn văn với nhiều câu trả lời liên quan.
Truy xuất tốt cũng sẽ lãng phí nếu mô hình sử dụng sai, vì vậy phía sinh nội dung có các chỉ số riêng. Độ trung thực đo mức độ câu trả lời bám sát bằng chứng được truy xuất mà không đưa ra khẳng định thiếu căn cứ, thường được tính bằng tỷ lệ các phát biểu có ngữ cảnh hỗ trợ. Trong các lĩnh vực hệ trọng như y tế và pháp lý, mục tiêu gần 100%, vì một khẳng định thiếu căn cứ là một ảo giác AI tiềm ẩn.
Độ liên quan của câu trả lời hỏi liệu phản hồi có thực sự giải quyết câu hỏi và giữ đúng chủ đề hay không, thường được đo qua độ tương đồng nhúng giữa câu trả lời và truy vấn, hoặc qua một mô hình ngôn ngữ làm giám khảo. Độ phủ trích dẫn, tức các khẳng định có được nguồn hỗ trợ hay không, hoàn thiện bức tranh. Cùng nhau, các chỉ số này đảm bảo hệ thống không chỉ truy xuất tốt mà còn tạo ra những câu trả lời có căn cứ, hữu ích, với trích dẫn nguồn đúng cách.
Một cách thực tế để bắt đầu là bộ ba RAG, mà Qdrant mô tả gồm hiệu quả truy xuất, mức liên quan của phản hồi và tính mạch lạc, còn các hướng dẫn khác diễn đạt là độ liên quan của ngữ cảnh, độ trung thực và độ liên quan của câu trả lời. Ý tưởng là ba phép kiểm tra này bắt được những lỗi phổ biến nhất: truy xuất kém, sinh nội dung bịa đặt và câu trả lời lạc đề.
Đọc chúng cùng nhau mang tính chẩn đoán. Nếu độ liên quan của ngữ cảnh thấp, bộ truy xuất là vấn đề. Nếu ngữ cảnh tốt nhưng độ trung thực thấp, mô hình đang trôi khỏi bằng chứng của nó. Nếu cả hai đều ổn nhưng độ liên quan của câu trả lời thấp, hệ thống có căn cứ nhưng bỏ lỡ ý định thực sự của người dùng. Sự tách bạch này khiến bộ ba trở thành lăng kính đầu tiên hữu ích trước khi thêm các chỉ số chi tiết hơn.
Có hai hướng tiếp cận chính. Đánh giá dựa trên dữ liệu chuẩn (ground truth) xây dựng các cặp câu hỏi và câu trả lời từ tài liệu nguồn, rồi so sánh phản hồi được sinh ra với đáp án kỳ vọng bằng điểm tương đồng và điểm đúng sai trên thang từ 0 đến 1. Cách này chặt chẽ nhưng tốn công, vì phải có người gắn nhãn cái gì được coi là liên quan và đúng.
Lựa chọn thay thế là dùng một mô hình ngôn ngữ làm giám khảo. Các khung này chấm điểm độ trung thực, độ liên quan và chất lượng ngữ cảnh một cách tự động, và mở rộng tốt hơn nhiều so với rà soát thủ công. Qdrant mô tả các phương pháp LLM làm giám khảo để đánh giá chất lượng phản hồi, và trong thực tế các đội ngũ thường kết hợp cả hai: một bộ cốt lõi có nhãn để có các bài kiểm tra chuẩn đáng tin, cùng việc chấm điểm tự động cho độ phủ rộng và thường xuyên.
RAGAS là một khung mã nguồn mở phổ biến được xây dựng riêng cho đánh giá RAG. Nó cung cấp các chỉ số không cần đáp án tham chiếu, gồm độ chính xác của ngữ cảnh, độ thu hồi của ngữ cảnh, độ trung thực và độ liên quan của câu trả lời, được tính bằng các mô hình ngôn ngữ làm giám khảo, nên bạn thường không cần dữ liệu chuẩn có nhãn. Nó chạy được ngay và thậm chí có thể tạo các truy vấn kiểm thử tổng hợp từ tài liệu của bạn, giảm rào cản để đánh giá một cách có hệ thống.
Phương pháp của nó là tách câu trả lời thành các phát biểu từng ý và kiểm tra từng phát biểu với ngữ cảnh được truy xuất, đó là cách nó chấm độ trung thực chính xác đến vậy. Theo langcopilot, các chỉ số RAGAS có tương quan tốt với đánh giá của con người, vượt trội so với việc chấm điểm zero-shot ngây thơ bằng một mô hình đa dụng. Độ tin cậy đó là lý do nó đã trở thành điểm khởi đầu mặc định cho nhiều đội ngũ đang chính thức hóa quy trình đánh giá.
Các chỉ số dùng để chấm hệ thống RAG cũng mô tả cách nội dung của bạn được AI khám phá và sử dụng. Độ trung thực thưởng cho các nguồn mà công cụ có thể tự tin neo khẳng định vào, còn các chỉ số xếp hạng như MRR và NDCG thưởng cho nội dung xuất hiện sớm và rõ ràng. Hiểu những gì các hệ thống này tối ưu cho bạn biết nội dung có thể trích xuất và đáng tin trông như thế nào từ bên trong.
Điều đó biến đánh giá truy xuất thành một bản thiết kế ngầm cho tối ưu hóa công cụ tạo sinh. Nếu bạn muốn trở thành đoạn được trích dẫn, hãy viết nội dung đạt điểm tốt trên các phép kiểm tra ngầm của công cụ: chính xác, tự đứng vững và dễ quy về nguồn. Kết hợp tư duy này với nghiên cứu từ khóa và lập kế hoạch nội dung có kỷ luật sẽ giúp bạn nhắm vào những truy vấn mà bằng chứng mạnh giành được trích dẫn.
Đánh giá chỉ tốt bằng dữ liệu của nó. Nhãn dữ liệu chuẩn tốn kém và mang tính chủ quan, và một bộ kiểm thử mỏng hoặc thiên lệch có thể cho ra điểm số đẹp nhưng che giấu những vấn đề thực sự. Giám khảo là mô hình ngôn ngữ giảm chi phí đó nhưng mang theo thiên lệch riêng, nên các phán quyết của chúng cần được kiểm tra định kỳ với rà soát của con người.
Cũng không có một con số nào kể toàn bộ câu chuyện. Một hệ thống có thể đạt độ thu hồi cao nhưng độ trung thực thấp, hoặc độ trung thực mạnh trên một câu trả lời không liên quan, đó là lý do các chỉ số này được dùng như một bộ bảng điều khiển chứ không phải một bảng xếp hạng. Lĩnh vực rộng hơn của bài kiểm tra chuẩn AI cũng đối mặt với cùng sự thận trọng: các chỉ số dẫn đường cho việc cải thiện nhưng phải được diễn giải cùng nhau và giữ trung thực với sự giám sát của con người.
Đánh giá truy xuất đo cả việc một hệ thống RAG có tìm đúng ngữ cảnh hay không và việc nó có sử dụng ngữ cảnh đó một cách trung thực hay không, kết hợp các chỉ số truy xuất như độ thu hồi, độ chính xác, MRR và NDCG với các chỉ số sinh nội dung như độ trung thực và độ liên quan của câu trả lời. Bộ ba RAG cho một chẩn đoán ban đầu nhanh, còn các khung như RAGAS giúp việc đánh giá có hệ thống trở nên dễ tiếp cận.
Để đi xa hơn, hãy kết nối điều này với độ phủ truy xuất và kiến trúc tạo sinh tăng cường truy xuất rộng hơn, rồi dùng công cụ nghiên cứu và lập kế hoạch nội dung của Sorank để xây dựng nội dung mà các hệ thống này truy xuất và tin cậy. Nguồn tham khảo: Qdrant, LangCopilot và Redis.
Nguồn
Ở phía truy xuất, các chỉ số cốt lõi là độ thu hồi tại k (bạn có tìm được các tài liệu liên quan không), độ chính xác tại k (các kết quả được truy xuất có liên quan không), MRR (kết quả liên quan đầu tiên có được xếp sớm không) và NDCG (mức độ liên quan theo bậc có tính đến vị trí). Ở phía sinh nội dung, độ trung thực và độ liên quan của câu trả lời quan trọng nhất. Nhiều đội ngũ bắt đầu với bộ ba RAG: độ liên quan của ngữ cảnh, độ trung thực và độ liên quan của câu trả lời.
RAGAS là một khung mã nguồn mở được xây dựng riêng để đánh giá các hệ thống RAG. Nó cung cấp các chỉ số không cần đáp án tham chiếu như độ chính xác của ngữ cảnh, độ thu hồi của ngữ cảnh, độ trung thực và độ liên quan của câu trả lời, được tính bằng các mô hình ngôn ngữ đóng vai giám khảo, nên bạn thường không cần dữ liệu chuẩn có nhãn. Nó chạy được ngay và có thể tạo câu hỏi kiểm thử tổng hợp từ tài liệu của bạn, còn điểm số của nó có tương quan tốt với đánh giá của con người.
Các AI truy xuất và tổng hợp nội dung, và chính những chỉ số dùng để chấm đường ống của chúng cũng mô tả cách nội dung của bạn được tìm thấy và sử dụng. Độ trung thực thưởng cho nội dung mà công cụ có thể neo khẳng định vào, còn các chỉ số xếp hạng thưởng cho nội dung xuất hiện sớm và rõ ràng. Hiểu cách đánh giá giúp bạn viết các trang chính xác, có cấu trúc tốt và dễ trích xuất, từ đó có nhiều khả năng được truy xuất và trích dẫn hơn.
HỌ ĐÃ THỬ SORANK TRƯỚC BẠN
