Utvärdering av hämtning mäter hur väl ett RAG-system hittar och använder rätt kontext. Lär dig måtten, RAG-triaden och bästa praxis.

På den här sidan
Sammanfattning
Utvärdering av hämtning är att mäta hur väl ett hämtningssystem hittar rätt dokument och hur troget en modell använder dem. Man använder mått som recall vid k, precision vid k, MRR, NDCG och trohet (faithfulness) för att bedöma kvaliteten i en RAG-kedja.
Vill du veta mer? Fråga
Utvärdering av hämtning är disciplinen att mäta om ett hämtningssystem hittar rätt information och om det genererade svaret faktiskt använder den på ett bra sätt. I en kedja för hämtningsförstärkt generering beror ett bra svar på två saker som måste fungera: hämtaren måste hitta relevant kontext, och modellen måste hålla sig trogen den kontexten. Utvärderingen sätter siffror på båda, så att team kan diagnostisera fel och förbättra kvaliteten i stället för att gissa.
Det spelar roll eftersom ett RAG-system kan fallera i tysthet. Ett svar kan låta flytande men bygga på fel passager, eller så kan hämtaren missa nyckelkällor som modellen behövde. För den som bygger RAG-system, eller försöker bli den källa de citerar, visar förståelsen för hur systemen betygsätts precis hur bra, hämtbart innehåll ser ut.
Utvärdering av hämtning bedömer de två halvorna i en RAG-kedja, var för sig och tillsammans. Hämtningshalvan frågar om systemet hittade semantiskt relevant information. Genereringshalvan frågar om svaret är meningsfullt, förankrat och på ämnet. Att utvärdera dem var för sig gör att du kan skilja ett hämtningsproblem från ett genereringsproblem, vilket är första steget för att åtgärda något av dem.
Det är en specialiserad gren av utvärdering av LLM:er. Där allmän modellutvärdering kan bedöma flyt eller resonemang fokuserar utvärdering av hämtning på underlaget: hittades rätt kontext, och respekterade modellen den? Eftersom RAG-svar bara är så bra som underlaget bakom dem är den underlagscentrerade synen avgörande för att bygga system som människor kan lita på.
Fyra mått utgör ryggraden på hämtningssidan. Recall vid k är andelen av alla relevanta dokument som finns bland de k översta, och langcopilot föreslår ett mål på minst 80 procent för kritiska frågor. Precision vid k är andelen av de k översta som faktiskt är relevanta, och högre precision innebär mindre brus för modellen. De två är ryggraden i mätningen av hämtningstäckning och kvalitet.
Rankingposition spelar också roll. Mean Reciprocal Rank, eller MRR, är medelvärdet av den ömsesidiga rangordningen för det första relevanta resultatet. Det ger 1,0 när det ligger först, 0,5 när det ligger på andra plats och nära noll när det hamnar långt ner. För frågebesvarande är målet över 0,7. Normalized Discounted Cumulative Gain, eller NDCG, hanterar gradvis relevans och viktar ner resultat efter position, så att ett relevant objekt på plats ett räknas mer än på plats tio. langcopilot anger mål över 0,85 för väldefinierade områden. NDCG passar naturligt när man utvärderar rankning av passager med flera relevanta svar.
God hämtning går till spillo om modellen använder den fel, så genereringssidan har egna mått. Trohet mäter hur väl svaret håller sig till det hämtade underlaget utan att införa påståenden som saknar stöd, ofta beräknat som andelen påståenden som stöds av kontexten. Inom områden med höga insatser, som hälsovård och juridik, ligger målet nära 100 procent, eftersom ett påstående utan stöd är en potentiell AI-hallucination.
Svarsrelevans frågar om svaret faktiskt besvarar frågan och håller sig till ämnet. Det mäts ofta genom likhet i inbäddningar mellan svaret och frågan, eller med en språkmodell som domare. Täckning av källhänvisningar, alltså om påståenden stöds av källor, fullbordar bilden. Tillsammans ser de till att systemet inte bara hämtar väl utan producerar förankrade och användbara svar med korrekt källhänvisning.
Ett praktiskt sätt att börja är RAG-triaden, som Qdrant beskriver som hämtningens effektivitet, svarets relevans och sammanhang, och som andra guider uttrycker som kontextrelevans, trohet och svarsrelevans. Tanken är att dessa tre kontroller fångar de vanligaste felen: dålig hämtning, påhittad generering och svar som lämnar ämnet.
Att läsa dem tillsammans ger en diagnos. Om kontextrelevansen är låg är det hämtaren som är problemet. Om kontexten är bra men trogenheten låg glider modellen bort från sitt underlag. Om båda är bra men svarsrelevansen är låg är systemet förankrat men missar användarens verkliga avsikt. Den uppdelningen gör triaden till en användbar första lins innan man lägger till mer detaljerade mått.
Det finns två huvudsakliga metoder. Utvärdering mot facit bygger frågepar med svar från källdokumenten och jämför sedan genererade svar med de förväntade svaren med likhets- och korrekthetspoäng på en skala från noll till ett. Det är rigoröst men arbetskrävande, eftersom någon måste märka vad som räknas som relevant och korrekt.
Alternativet är att använda en språkmodell som domare. Ramverk poängsätter trohet, relevans och kontextkvalitet automatiskt, vilket skalar mycket bättre än manuell granskning. Qdrant beskriver metoder där LLM fungerar som domare för att bedöma svarskvalitet, och i praktiken kombinerar team ofta de två: en märkt kärnmängd för pålitliga riktmärken och automatiserad bedömning för bred och frekvent täckning.
RAGAS är ett populärt ramverk med öppen källkod, byggt specifikt för utvärdering av RAG. Det erbjuder referensfria mått, bland annat kontextprecision, kontextrecall, trohet och svarsrelevans, beräknade med språkmodeller som domare. Därför behöver du ofta inget märkt facit. Det fungerar direkt och kan till och med skapa syntetiska testfrågor utifrån dina dokument, vilket sänker tröskeln för systematisk utvärdering.
Metoden bryter ner ett svar i atomära påståenden och kontrollerar varje mot den hämtade kontexten, vilket är anledningen till att den kan poängsätta trogenheten så exakt. Enligt langcopilot har RAGAS-måtten korrelerat väl med mänskligt omdöme och presterat bättre än enkel nollskottspoängsättning med en generell modell. Den tillförlitligheten är skälet till att den blivit en vanlig utgångspunkt för team som formaliserar sin utvärdering.
Måtten som betygsätter RAG-system beskriver också hur ditt innehåll hittas och används av AI. Trohet belönar källor som en motor med säkerhet kan förankra påståenden i, medan rankningsmått som MRR och NDCG belönar innehåll som dyker upp tidigt och tydligt. Att förstå vad systemen optimerar för visar hur innehåll som går att plocka ut och lita på ser ut inifrån.
Det gör utvärdering av hämtning till en tyst ritning för generativ motoroptimering. Om du vill vara den citerade passagen, skriv innehåll som klarar motorns underförstådda kontroller: korrekt, fristående och enkelt att tillskriva. Kombinerat med noggrann sökordsresearch och innehållsplanering hjälper det dig att rikta in dig på de frågor där stark underbyggnad vinner citeringar.
Utvärderingen är bara så bra som sina data. Facit är dyrt och subjektivt att ta fram, och en tunn eller partisk testmängd kan ge smickrande poäng som döljer verkliga problem. Språkmodeller som domare minskar kostnaden men för med sig egna fördomar, så deras bedömningar behöver kontrolleras regelbundet mot mänsklig granskning.
Inget enskilt tal berättar hela historien. Ett system kan ha hög recall men låg trohet, eller stark trohet på ett irrelevant svar. Därför används måtten som en panel snarare än som en resultattavla. Det bredare området AI-riktmärken står inför samma försiktighet: mått vägleder förbättringen men måste tolkas tillsammans och hållas ärliga med mänsklig kontroll.
Utvärdering av hämtning mäter både om ett RAG-system hittar rätt kontext och om det använder kontexten troget. Den kombinerar hämtningsmått som recall, precision, MRR och NDCG med genereringsmått som trohet och svarsrelevans. RAG-triaden ger en snabb första diagnos, och ramverk som RAGAS gör systematisk utvärdering tillgänglig.
För att gå vidare, koppla detta till hämtningstäckning och den bredare arkitekturen för hämtningsförstärkt generering. Använd Soranks verktyg för research och innehållsplanering för att bygga innehåll som dessa system hämtar och litar på. Källor: Qdrant, LangCopilot och Redis.
Källor
På hämtningssidan är kärnmåtten recall vid k (hittade du de relevanta dokumenten), precision vid k (är de hämtade resultaten relevanta), MRR (ligger det första relevanta resultatet högt) och NDCG (gradvis relevans viktad efter position). På genereringssidan är trohet och svarsrelevans viktigast. Många team börjar med RAG-triaden: kontextrelevans, trohet och svarsrelevans.
RAGAS är ett ramverk med öppen källkod som är byggt specifikt för att utvärdera RAG-system. Det erbjuder referensfria mått som kontextprecision, kontextrecall, trohet och svarsrelevans, beräknade med språkmodeller som domare, så du behöver ofta inget märkt facit. Det fungerar direkt och kan skapa syntetiska testfrågor utifrån dina dokument, och poängen har korrelerat väl med mänskligt omdöme.
AI-tjänsterna hämtar och sammanställer innehåll, och samma mått som betygsätter deras kedjor beskriver hur ditt innehåll hittas och används. Trohet belönar innehåll som en motor kan förankra påståenden i, och rankningsmått belönar innehåll som dyker upp tidigt och tydligt. Om du förstår utvärderingen kan du skriva korrekta, välstrukturerade sidor som går att plocka ut och som är mer sannolika att hämtas och citeras.
DE TESTADE SORANK FÖRE DIG
