रिट्रीवल मूल्यांकन मापता है कि RAG सिस्टम सही संदर्भ कितनी अच्छी तरह ढूँढता और इस्तेमाल करता है। जानें मेट्रिक्स, RAG ट्रायड और सर्वोत्तम तरीके।

इस पेज पर
रिट्रीवल मूल्यांकन यह मापने का अनुशासन है कि कोई रिट्रीवल सिस्टम सही जानकारी सामने लाता है या नहीं, और तैयार किया गया जवाब उसे सचमुच अच्छी तरह इस्तेमाल करता है या नहीं। रिट्रीवल ऑगमेंटेड जेनरेशन पाइपलाइन में अच्छा जवाब दो बातों के सही होने पर निर्भर है: रिट्रीवर का प्रासंगिक संदर्भ ढूँढना, और मॉडल का उस संदर्भ के प्रति वफ़ादार रहना। रिट्रीवल मूल्यांकन इन दोनों को आँकड़ों में बदलता है, ताकि टीमें अनुमान लगाने के बजाय विफलताओं की पहचान करें और गुणवत्ता सुधारें।
यह इसलिए मायने रखता है कि RAG सिस्टम चुपचाप विफल हो सकता है। जवाब धाराप्रवाह लग सकता है पर गलत अंशों पर टिका हो, या रिट्रीवर वे मुख्य स्रोत छोड़ दे जिनकी मॉडल को ज़रूरत थी। जो कोई RAG सिस्टम बना रहा है, या जो चाहता है कि वही उसका स्रोत बनें, उसके लिए यह समझना कि इन सिस्टम्स का मूल्यांकन कैसे होता है, यह साफ़ दिखाता है कि अच्छा, रिट्रीव होने योग्य कंटेंट कैसा होता है।
रिट्रीवल मूल्यांकन RAG पाइपलाइन के दोनों हिस्सों को अलग-अलग और साथ में आँकता है। रिट्रीवल वाला हिस्सा पूछता है कि क्या सिस्टम को अर्थ के हिसाब से प्रासंगिक जानकारी मिली। जनरेशन वाला हिस्सा पूछता है कि क्या जवाब सार्थक, प्रमाण पर टिका और विषय पर है। दोनों को अलग-अलग आँकने से ही पता चलता है कि समस्या रिट्रीवल की है या जनरेशन की, और किसी भी एक को सुधारने का यही पहला कदम है।
यह LLM मूल्यांकन की एक विशेष शाखा है। सामान्य मॉडल मूल्यांकन धाराप्रवाहता या तर्क को आँक सकता है, जबकि रिट्रीवल मूल्यांकन प्रमाण पर ध्यान देता है: क्या सही संदर्भ मिला, और क्या मॉडल ने उसका सम्मान किया। चूँकि RAG के जवाब उतने ही अच्छे होते हैं जितने उनके पीछे के अंश, इसलिए प्रमाण-केंद्रित यह नज़रिया भरोसेमंद सिस्टम बनाने के लिए ज़रूरी है।
रिट्रीवल वाले हिस्से की चार मेट्रिक्स केंद्र में हैं। Recall at k वह अनुपात है जिसमें शीर्ष k में मौजूद प्रासंगिक दस्तावेज़ सभी प्रासंगिक दस्तावेज़ों के मुकाबले आते हैं, और langcopilot महत्वपूर्ण क्वेरीज़ पर कम से कम 80% का लक्ष्य सुझाता है। Precision at k शीर्ष k में से असल में प्रासंगिक नतीजों का अंश है, जहाँ ऊँची प्रिसिशन का मतलब है मॉडल के लिए कम शोर। ये दोनों रिट्रीवल कवरेज और गुणवत्ता मापने की रीढ़ हैं।
रैंकिंग की स्थिति भी मायने रखती है। Mean Reciprocal Rank, या MRR, पहले प्रासंगिक नतीजे की रेसिप्रोकल रैंक का औसत निकालता है: पहले स्थान पर होने पर 1.0, दूसरे पर 0.5, और दबे होने पर लगभग शून्य स्कोर मिलता है, जबकि प्रश्न-उत्तर के लिए लक्ष्य 0.7 से ऊपर है। Normalized Discounted Cumulative Gain, या NDCG, ग्रेडेड प्रासंगिकता को संभालता है और रैंक के हिसाब से नतीजों का वज़न घटाता है, ताकि स्थान एक पर मौजूद प्रासंगिक आइटम स्थान दस की तुलना में ज़्यादा गिना जाए। langcopilot स्पष्ट रूप से परिभाषित क्षेत्रों के लिए 0.85 से ऊपर के लक्ष्य बताता है। जब कई प्रासंगिक जवाबों वाली पैसेज रैंकिंग का मूल्यांकन करना हो, तो NDCG सबसे स्वाभाविक विकल्प है।
अच्छा रिट्रीवल तब बेकार है जब मॉडल उसका गलत इस्तेमाल करे, इसलिए जनरेशन वाले हिस्से के अपने मेट्रिक्स हैं। Faithfulness मापता है कि जवाब बिना समर्थन वाले दावे जोड़े बिना रिट्रीव किए गए प्रमाण से कितनी अच्छी तरह चिपका है, जिसे अक्सर उन कथनों के अनुपात से निकाला जाता है जो संदर्भ से समर्थित हैं। स्वास्थ्य और कानूनी जैसे उच्च-दाँव वाले क्षेत्रों में लक्ष्य लगभग 100% होता है, क्योंकि बिना समर्थन वाला दावा संभावित AI हैलुसिनेशन है।
Answer relevance पूछता है कि क्या जवाब सचमुच सवाल का समाधान करता है और विषय पर रहता है। इसे अक्सर जवाब और क्वेरी के बीच एम्बेडिंग समानता से, या किसी भाषा मॉडल जज के ज़रिए मापा जाता है। Citation coverage, यानी क्या दावे स्रोतों से समर्थित हैं, तस्वीर पूरी करता है। ये मिलकर सुनिश्चित करते हैं कि सिस्टम सिर्फ़ अच्छा रिट्रीवल ही न करे, बल्कि उचित स्रोत उद्धरण के साथ ठोस और उपयोगी जवाब भी दे।
शुरुआत का एक व्यावहारिक तरीका RAG ट्रायड है, जिसे Qdrant रिट्रीवल प्रभावशीलता, रिस्पॉन्स प्रासंगिकता और सुसंगति के रूप में पेश करता है, और दूसरे गाइड इसे संदर्भ प्रासंगिकता, faithfulness और answer relevance के रूप में बताते हैं। विचार यह है कि ये तीन जाँचें सबसे आम विफलताओं को पकड़ती हैं: खराब रिट्रीवल, गढ़ा हुआ जनरेशन और विषय से भटके जवाब।
इन तीनों को साथ पढ़ना निदानात्मक है। अगर संदर्भ प्रासंगिकता कम है, तो समस्या रिट्रीवर है। अगर संदर्भ अच्छा है पर faithfulness कम है, तो मॉडल अपने प्रमाण से भटक रहा है। अगर दोनों ठीक हैं पर answer relevance कम है, तो सिस्टम प्रमाण पर टिका है पर यूज़र के असली इरादे को पूरा नहीं कर रहा। यही अलगाव ट्रायड को बारीक मेट्रिक्स जोड़ने से पहले एक उपयोगी पहला चश्मा बनाता है।
इसके दो मोटे तरीके हैं। ग्राउंड-ट्रुथ मूल्यांकन स्रोत दस्तावेज़ों से सवाल-जवाब के जोड़े बनाता है, फिर जनरेट किए गए जवाबों की तुलना अपेक्षित जवाबों से समानता और सटीकता स्कोर के ज़रिए 0 से 1 के पैमाने पर करता है। यह कठोर है, पर श्रमसाध्य भी, क्योंकि किसी को लेबल करना पड़ता है कि क्या प्रासंगिक और सही माना जाए।
विकल्प है किसी भाषा मॉडल को जज के रूप में इस्तेमाल करना। फ़्रेमवर्क faithfulness, प्रासंगिकता और संदर्भ की गुणवत्ता अपने आप आँकते हैं, जो मैनुअल समीक्षा से कहीं बेहतर पैमाने पर चलता है। Qdrant LLM-as-a-judge तरीकों का वर्णन करता है, और व्यवहार में टीमें दोनों को मिलाती हैं: भरोसेमंद बेंचमार्क के लिए लेबल वाला मुख्य सेट, और व्यापक तथा बार-बार होने वाली कवरेज के लिए स्वचालित जजिंग।
RAGAS एक लोकप्रिय ओपन-सोर्स फ़्रेमवर्क है, जो खास तौर पर RAG मूल्यांकन के लिए बना है। यह रेफ़रेंस-मुक्त मेट्रिक्स देता है, जिनमें context precision, context recall, faithfulness और answer relevancy शामिल हैं, और ये भाषा मॉडल जज से निकाले जाते हैं, इसलिए अक्सर लेबल वाले ग्राउंड ट्रुथ की ज़रूरत नहीं होती। यह तुरंत काम करता है और आपके दस्तावेज़ों से सिंथेटिक टेस्ट क्वेरीज़ भी बना सकता है, जिससे व्यवस्थित मूल्यांकन की शुरुआत आसान हो जाती है।
इसका तरीका जवाब को परमाणु-जैसे कथनों में तोड़ना और हर एक को रिट्रीव किए गए संदर्भ से मिलाना है, यही वजह है कि यह faithfulness को इतनी बारीकी से आँक पाता है। langcopilot के अनुसार RAGAS मेट्रिक्स का मानव निर्णय से अच्छा मेल रहा है, और सामान्य मॉडल की नेव ज़ीरो-शॉट स्कोरिंग से बेहतर प्रदर्शन करते हैं। यही भरोसेमंदी इसे कई टीमों के लिए अपने मूल्यांकन को औपचारिक बनाने का डिफ़ॉल्ट शुरुआती बिंदु बनाती है।
जो मेट्रिक्स RAG सिस्टम्स को आँकते हैं, वही बताते हैं कि आपका कंटेंट AI द्वारा कैसे खोजा और इस्तेमाल किया जाता है। Faithfulness उन स्रोतों को पुरस्कृत करता है जिन पर इंजन दावों को भरोसे से टिका सके, जबकि रैंकिंग मेट्रिक्स MRR और NDCG उस कंटेंट को पुरस्कृत करते हैं जो जल्दी और साफ़ तौर पर सामने आए। यह समझना कि ये सिस्टम किस चीज़ को ऑप्टिमाइज़ करते हैं, आपको भीतर से बता देता है कि निकाला जा सकने वाला, भरोसेमंद कंटेंट कैसा दिखता है।
इस तरह रिट्रीवल मूल्यांकन जनरेटिव इंजन ऑप्टिमाइज़ेशन का एक शांत ब्लूप्रिंट बन जाता है। अगर आप वह उद्धृत अंश बनना चाहते हैं, तो ऐसा कंटेंट लिखें जो इंजन की अनकही जाँचों पर अच्छा स्कोर करे: सटीक, स्व-निहित और आसानी से श्रेय दिया जा सकने वाला। इस सोच के साथ अनुशासित कीवर्ड रिसर्च और कंटेंट प्लानिंग जोड़ने से आप उन क्वेरीज़ को निशाना बना पाते हैं जहाँ मज़बूत प्रमाण उद्धरण जीतता है।
मूल्यांकन अपने डेटा जितना ही अच्छा होता है। ग्राउंड-ट्रुथ लेबल महँगे और व्यक्तिपरक होते हैं, और एक पतला या पक्षपाती टेस्ट सेट ऐसे चमकदार स्कोर दे सकता है जो असली समस्याएँ छिपा दें। भाषा मॉडल जज इस लागत को घटाते हैं, पर अपने पूर्वाग्रह भी लाते हैं, इसलिए उनके फ़ैसलों को समय-समय पर मानवीय समीक्षा से जाँचना ज़रूरी है।
कोई एक संख्या पूरी कहानी नहीं बताती। कोई सिस्टम ऊँचा रिकॉल दिखा सकता है पर कम faithfulness, या अप्रासंगिक जवाब पर मज़बूत faithfulness, इसलिए इन मेट्रिक्स को स्कोरबोर्ड के बजाय एक पैनल की तरह इस्तेमाल किया जाता है। व्यापक AI बेंचमार्क्स की दुनिया में भी यही सावधानी लागू होती है: मेट्रिक्स सुधार का मार्गदर्शन करते हैं, पर उन्हें एक साथ पढ़ना और मानवीय निगरानी से ईमानदार रखना होता है।
रिट्रीवल मूल्यांकन यह मापता है कि RAG सिस्टम सही संदर्भ ढूँढता है या नहीं, और उसका उपयोग ईमानदारी से करता है या नहीं, इसके लिए रिकॉल, प्रिसिशन, MRR और NDCG जैसे रिट्रीवल मेट्रिक्स को faithfulness और answer relevance जैसे जनरेशन मेट्रिक्स के साथ जोड़ा जाता है। RAG ट्रायड तेज़ पहला निदान देता है, और RAGAS जैसे फ़्रेमवर्क व्यवस्थित मूल्यांकन को सुलभ बनाते हैं।
इसे और आगे ले जाने के लिए इसे रिट्रीवल कवरेज और व्यापक रिट्रीवल ऑगमेंटेड जेनरेशन आर्किटेक्चर से जोड़ें, और ऐसा कंटेंट बनाने के लिए Sorank के रिसर्च और कंटेंट प्लानिंग टूल्स का इस्तेमाल करें जिसे ये सिस्टम रिट्रीव और भरोसे में लें। संदर्भ स्रोत: Qdrant, LangCopilot, और Redis।
स्रोत
रिट्रीवल वाले हिस्से में मुख्य मेट्रिक्स हैं: recall at k (क्या आपको प्रासंगिक दस्तावेज़ मिले), precision at k (क्या लाए गए नतीजे प्रासंगिक हैं), MRR (क्या पहला प्रासंगिक नतीजा जल्दी रैंक हुआ) और NDCG (ग्रेडेड प्रासंगिकता, स्थान के हिसाब से वज़न के साथ)। जनरेशन वाले हिस्से में faithfulness और answer relevance सबसे अहम हैं। कई टीमें RAG ट्रायड से शुरू करती हैं: संदर्भ प्रासंगिकता, faithfulness और answer relevance।
RAGAS एक ओपन-सोर्स फ़्रेमवर्क है, जो खास तौर पर RAG सिस्टम्स के मूल्यांकन के लिए बना है। यह रेफ़रेंस-मुक्त मेट्रिक्स देता है, जैसे context precision, context recall, faithfulness और answer relevancy, जो जज की भूमिका निभाने वाले भाषा मॉडलों से निकाले जाते हैं, इसलिए अक्सर लेबल वाले ग्राउंड ट्रुथ की ज़रूरत नहीं होती। यह तुरंत काम करता है, आपके दस्तावेज़ों से सिंथेटिक टेस्ट सवाल बना सकता है, और इसके स्कोर मानव निर्णय से अच्छे मेल खाते रहे हैं।
AI कंटेंट रिट्रीव और सिंथेसाइज़ करते हैं, और वही मेट्रिक्स जो उनकी पाइपलाइन को आँकते हैं, बताते हैं कि आपका कंटेंट कैसे मिलता और इस्तेमाल होता है। Faithfulness उस कंटेंट को पुरस्कृत करता है जिस पर इंजन दावों को टिका सके, और रैंकिंग मेट्रिक्स वह कंटेंट पुरस्कृत करते हैं जो जल्दी और साफ़ सामने आए। मूल्यांकन को समझने से आप निकाले जा सकने वाले, सटीक और अच्छी तरह व्यवस्थित पेज लिख पाते हैं, जो रिट्रीव और उद्धृत होने की ज़्यादा संभावना रखते हैं।
आपसे पहले लोगों ने Sorank आज़माया है
