Evaluering af hentning måler, hvor godt et RAG-system finder og bruger den rette kontekst. Lær metrikkerne, RAG-triaden og de bedste fremgangsmåder.

På denne side
Resumé
Evaluering af hentning er praksis med at måle, hvor godt et hentningssystem finder de rette dokumenter, og hvor trofast en model bruger dem. Der bruges metrikker som recall ved k, præcision ved k, MRR, NDCG og trofasthed til at vurdere kvaliteten af et RAG-forløb.
Vil du vide mere? Spørg
Evaluering af hentning er disciplinen, der måler, om et hentningssystem finder den rette information, og om det genererede svar faktisk bruger den godt. I et hentningsforstærket genereringsforløb afhænger et godt svar af, at to ting går rigtigt: hentningsmodulet finder relevant kontekst, og modellen forbliver trofast over for den kontekst. Evaluering af hentning sætter tal på begge dele, så teams kan diagnosticere fejl og forbedre kvaliteten i stedet for at gætte.
Det betyder noget, fordi et RAG-system kan fejle i stilhed. Et svar kan lyde flydende og alligevel bygge på de forkerte passager, eller hentningen kan overse nøglekilder, som modellen havde brug for. For alle, der bygger RAG-systemer, eller som forsøger at blive den kilde, de henviser til, afslører forståelsen af, hvordan disse systemer bedømmes, præcis hvordan godt, hentbart indhold ser ud.
Evaluering af hentning vurderer de to halvdele af et RAG-forløb hver for sig og samlet. Hentningshalvdelen spørger, om systemet fandt semantisk relevant information. Genereringshalvdelen spørger, om svaret er meningsfuldt, forankret og på emne. Ved at vurdere dem hver for sig kan du skelne et hentningsproblem fra et genereringsproblem, og det er første skridt til at rette begge dele.
Det er en specialiseret gren af LLM-evaluering. Hvor generel modelevaluering kan vurdere flydende sprog eller ræsonnement, fokuserer evaluering af hentning på beviset: blev den rette kontekst hentet, og respekterede modellen den? Fordi RAG-svar kun er så gode som de passager, de bygger på, er dette bevisorienterede blik centralt for at bygge systemer, folk kan stole på.
Fire metrikker danner grundlaget på hentningssiden. Recall ved k er andelen af alle relevante dokumenter, der findes i de top k, og langcopilot foreslår et mål på mindst 80 procent ved kritiske forespørgsler. Præcision ved k er andelen af de top k, der faktisk er relevante, hvor højere præcision betyder mindre støj for modellen. Disse to er rygraden i målingen af hentningsdækning og kvalitet.
Rangeringspositionen betyder også noget. Mean Reciprocal Rank, MRR, er gennemsnittet af den reciprokke rang for det første relevante resultat. Det giver 1,0, når resultatet står først, 0,5 når det står som nummer to, og næsten nul når det er begravet, med mål over 0,7 for spørgsmål-og-svar. Normalized Discounted Cumulative Gain, NDCG, håndterer gradueret relevans og nedvægter resultater efter rang, så et relevant element på plads ét tæller mere end på plads ti. langcopilot angiver mål over 0,85 for veldefinerede områder. NDCG passer naturligt, når man vurderer passagerangering med flere relevante svar.
God hentning er spildt, hvis modellen bruger den forkert, så genereringshalvdelen har sine egne metrikker. Trofasthed måler, hvor godt svaret holder sig til det hentede bevismateriale uden at tilføje ubegrundede påstande, ofte beregnet som andelen af udsagn, der understøttes af konteksten. I områder med høje krav som sundhed og jura er målet tæt på 100 procent, for en ubegrundet påstand er en potentiel AI-hallucination.
Svarrelevans spørger, om svaret faktisk adresserer spørgsmålet og holder sig til emnet. Den måles ofte gennem lighed mellem embeddings af svaret og forespørgslen, eller ved at en sprogmodel dømmer svaret. Dækning af citater, altså om påstande er underbygget af kilder, fuldender billedet. Sammen sikrer de, at systemet ikke blot henter godt, men også producerer forankrede, nyttige svar med korrekt kildehenvisning.
En praktisk måde at starte på er RAG-triaden, som Qdrant beskriver som hentningseffektivitet, svarrelevans og sammenhæng, og som andre guider udtrykker som kontekstrelevans, trofasthed og svarrelevans. Idéen er, at disse tre kontroller fanger de hyppigste fejltyper: dårlig hentning, opdigtet generering og svar, der ikke er på emne.
At læse dem samlet er diagnostisk. Hvis kontekstrelevansen er lav, er hentningen problemet. Hvis konteksten er god, men trofastheden er lav, glider modellen væk fra sit bevismateriale. Hvis begge dele er i orden, men svarrelevansen er lav, er systemet forankret, men misser brugerens faktiske hensigt. Denne adskillelse gør triaden til et nyttigt første blik, før man tilføjer mere detaljerede metrikker.
Der findes to overordnede tilgange. Evaluering mod facit bygger spørgsmål- og svarpar ud fra kildedokumenter og sammenligner de genererede svar med de forventede svar ved hjælp af lighedsmål og korrekthedsscorer på en skala fra nul til én. Det er grundigt, men arbejdskrævende, for nogen skal mærke, hvad der tæller som relevant og korrekt.
Alternativet er at lade en sprogmodel fungere som dommer. Rammeværktøjer scorer trofasthed, relevans og kontekstkvalitet automatisk, hvilket skalerer langt bedre end manuel gennemgang. Qdrant beskriver LLM som dommer-metoder til at vurdere svarkvalitet, og i praksis kombinerer teams ofte de to: et mærket kernesæt til troværdige benchmarks og automatisk dømmen til bred og hyppig dækning.
RAGAS er et populært open source-rammeværk, bygget specifikt til evaluering af RAG. Det leverer referencefrie metrikker, herunder kontekstpræcision, kontekst-recall, trofasthed og svarrelevans, beregnet af sprogmodeller som dommere, så du ofte ikke behøver mærket facit. Det virker med det samme og kan endda generere syntetiske testspørgsmål ud fra dine dokumenter, hvilket sænker barrieren for systematisk evaluering.
Metoden er at opdele et svar i atomare udsagn og tjekke hvert enkelt mod den hentede kontekst. Det er sådan, den scorer trofastheden så præcist. Ifølge langcopilot er RAGAS-metrikkerne korreleret godt med menneskelig vurdering og klarer sig bedre end naiv nulskudsscoring fra en generel model. Den pålidelighed er grunden til, at det er blevet et standardudgangspunkt for mange teams, der formaliserer deres evaluering.
De metrikker, der bedømmer RAG-systemer, beskriver også, hvordan dit indhold bliver opdaget og brugt af AI. Trofasthed belønner kilder, en motor kan forankre påstande i med tillid, mens rangeringsmetrikker som MRR og NDCG belønner indhold, der dukker tidligt op og er tydeligt. At forstå, hvad disse systemer optimerer for, fortæller dig, hvordan udtrækkeligt og troværdigt indhold ser ud indefra.
Det gør evaluering af hentning til en stille blåkopi for generativ søgemaskineoptimering. Hvis du vil være den citerede passage, skal du skrive indhold, der består motorens implicitte kontroller: præcist, selvstændigt og let at tilskrive. Kombineret med disciplineret søgeordsresearch og indholdsplanlægning hjælper det dig med at ramme de forespørgsler, hvor stærkt bevismateriale vinder citater.
Evaluering er kun så god som sine data. Facitmærkninger er dyre og subjektive, og et tyndt eller skævt testsæt kan give flatterende scorer, der skjuler reelle problemer. Sprogmodeller som dommere reducerer omkostningen, men medfører egne skævheder, så deres domme skal jævnligt kontrolleres mod menneskelig vurdering.
Heller ikke et enkelt tal fortæller hele historien. Et system kan have høj recall, men lav trofasthed, eller stærk trofasthed på et irrelevant svar. Derfor bruges metrikkerne som et samlet panel og ikke som en scoreboard. Det bredere felt af AI-benchmarks står over for den samme forsigtighed: metrikker guider forbedringen, men skal fortolkes samlet og holdes ærlige med menneskelig kontrol.
Evaluering af hentning måler både, om et RAG-system finder den rette kontekst, og om det bruger konteksten trofast. Den kombinerer hentningsmetrikker som recall, præcision, MRR og NDCG med genereringsmetrikker som trofasthed og svarrelevans. RAG-triaden giver en hurtig første diagnose, og rammeværk som RAGAS gør systematisk evaluering tilgængelig.
For at komme videre kan du forbinde dette med hentningsdækning og den bredere hentningsforstærkede generings-arkitektur, og bruge Soranks research- og indholdsplanlægningsværktøjer til at bygge indhold, disse systemer henter og stoler på. Kilder: Qdrant, LangCopilot og Redis.
Kilder
På hentningssiden er kernemetrikkerne recall ved k (fandt du de relevante dokumenter), præcision ved k (er de hentede resultater relevante), MRR (er det første relevante resultat rangeret højt) og NDCG (gradueret relevans vægtet efter position). På genereringssiden er trofasthed og svarrelevans vigtigst. Mange teams starter med RAG-triaden: kontekstrelevans, trofasthed og svarrelevans.
RAGAS er et open source-rammeværk, bygget specifikt til at evaluere RAG-systemer. Det leverer referencefrie metrikker som kontekstpræcision, kontekst-recall, trofasthed og svarrelevans, beregnet af sprogmodeller, der fungerer som dommere, så du ofte ikke har brug for mærket facit. Det virker med det samme og kan generere syntetiske testspørgsmål ud fra dine dokumenter, og dets scorer er korreleret godt med menneskelig vurdering.
AI'erne henter og sammenfatter indhold, og de samme metrikker, der bedømmer deres forløb, beskriver, hvordan dit indhold bliver fundet og brugt. Trofasthed belønner indhold, en motor kan forankre påstande i, og rangeringsmetrikker belønner indhold, der dukker tidligt op og er tydeligt. Forståelse af evaluering hjælper dig med at skrive udtrækkelige, præcise og velstrukturerede sider, der er mere tilbøjelige til at blive hentet og henvist til.
DE PRØVEDE SORANK, FØR DU GJORDE DET
