Evaluering av henting måler hvor godt et RAG-system finner og bruker riktig kontekst. Lær målene, RAG-triaden og beste praksis.

På denne siden
Sammendrag
Evaluering av henting er praksisen med å måle hvor godt et hentingssystem finner de riktige dokumentene, og hvor trofast en modell bruker dem, ved hjelp av mål som recall at k, presisjon at k, MRR, NDCG og trofasthet for å vurdere kvaliteten på en RAG-prosess.
Vil du vite mer? Spør
Evaluering av henting er disiplinen som måler om et hentingssystem finner den riktige informasjonen, og om det genererte svaret faktisk bruker den godt. I en RAG-prosess avhenger et godt svar av at to ting går riktig: hentemotoren finner relevant kontekst, og modellen holder seg tro mot den konteksten. Evaluering av henting setter tall på begge deler, slik at team kan diagnostisere feil og forbedre kvaliteten i stedet for å gjette.
Dette betyr noe fordi et RAG-system kan svikte stille. Et svar kan høres flytende ut og likevel hvile på feil avsnitt, eller hentemotoren kan gå glipp av sentrale kilder modellen trengte. For alle som bygger RAG-systemer, eller prøver å bli kilden de siterer, avslører forståelsen av hvordan disse systemene vurderes nøyaktig hvordan godt og hentbart innhold ser ut.
Evaluering av henting vurderer de to halvdelene av en RAG-prosess hver for seg og samlet. Hentedelen spør om systemet fant semantisk relevant informasjon. Genereringsdelen spør om svaret er meningsfullt, forankret og på temaet. Å evaluere dem isolert er det som lar deg skille et hentingsproblem fra et genereringsproblem, og det er første steg for å fikse noen av dem.
Det er en spesialisert gren av evaluering av språkmodeller. Der generell modellevaluering kan vurdere flyt eller resonnering, fokuserer evaluering av henting på beviset: ble riktig kontekst hentet, og respekterte modellen den? Fordi RAG-svar bare er så gode som avsnittene bak dem, er denne bevisorienterte visningen avgjørende for å bygge systemer folk kan stole på.
Fire mål forankrer hentedelen. Recall at k er andelen av alle relevante dokumenter som finnes i de øverste k, der langcopilot foreslår et mål på minst 80 prosent for kritiske spørringer. Presisjon at k er andelen av de øverste k som faktisk er relevante, der høyere presisjon betyr mindre støy for modellen. Disse to er ryggraden i målingen av hentingsdekning og kvalitet.
Rangeringsposisjon betyr også noe. Gjennomsnittlig gjensidig rang, MRR, er gjennomsnittet av den gjensidige rangen til det første relevante resultatet, med skår 1.0 når det står først, 0.5 når det står på andre plass og nær null når det havner langt nede, med mål over 0.7 for spørsmål og svar. Normalisert diskontert kumulativ gevinst, NDCG, håndterer gradert relevans og nedvekter resultater etter rang, slik at et relevant element på førsteplass teller mer enn på plass ti. Langcopilot oppgir mål over 0.85 for veldefinerte domener. NDCG passer naturlig når man evaluerer rangering av avsnitt med flere relevante svar.
God henting er bortkastet hvis modellen bruker den feil, så genereringsdelen har sine egne mål. Trofasthet måler hvor godt svaret holder seg til det hentede beviset uten å introdusere påstander uten dekning, ofte beregnet som andelen utsagn som er støttet av konteksten. I områder med høy risiko, som helse og juss, ligger målet nær 100 prosent, fordi en ustøttet påstand er en potensiell AI-hallusinasjon.
Svarrelevans spør om svaret faktisk tar for seg spørsmålet og holder seg på temaet, og måles ofte gjennom likhet mellom embeddinger av svaret og spørringen, eller ved at en språkmodell vurderer det. Sitatdekning, altså om påstandene er støttet av kilder, fullfører bildet. Sammen sikrer disse at systemet ikke bare henter godt, men produserer forankrede og nyttige svar med riktig kildehenvisning.
En praktisk måte å starte på er RAG-triaden, som Qdrant beskriver som hentingseffektivitet, svarrelevans og sammenheng, og som andre veiledninger uttrykker som kontekstrelevans, trofasthet og svarrelevans. Ideen er at de tre kontrollene fanger de vanligste feilmønstrene: dårlig henting, hallusinert generering og svar som kommer utenfor temaet.
Å lese dem sammen er diagnostisk. Hvis kontekstrelevansen er lav, er hentemotoren problemet. Hvis konteksten er god, men trofastheten er lav, glir modellen bort fra beviset sitt. Hvis begge er i orden, men svarrelevansen er lav, er systemet forankret, men savner brukerens faktiske intensjon. Denne separasjonen gjør triaden til et nyttig første blikk før man tar i bruk mer detaljerte mål.
Det finnes to brede tilnærminger. Evaluering mot fasit bygger spørsmål og svarpar fra kildedokumenter, og sammenligner deretter genererte svar med forventede svar ved hjelp av likhets- og korrekthetsskårer på en skala fra null til én. Dette er grundig, men arbeidskrevende, siden noen må merke hva som regnes som relevant og korrekt.
Alternativet er å bruke en språkmodell som dommer. Rammeverk skårer trofasthet, relevans og kontekstkvalitet automatisk, noe som skalerer langt bedre enn manuell gjennomgang. Qdrant beskriver metodikker der språkmodellen er dommer for å vurdere svarkvalitet, og i praksis kombinerer team gjerne de to: et merket kjernesett for pålitelige referansetester og automatisk vurdering for bred, hyppig dekning.
RAGAS er et populært åpen kildekode-rammeverk bygget spesielt for evaluering av RAG. Det gir mål uten referansesvar, blant annet kontekstpresisjon, kontekstrecall, trofasthet og svarrelevans, beregnet med språkmodeller som dommere, så du trenger ofte ikke merket fasit. Det fungerer rett ut av boksen og kan til og med generere syntetiske testspørsmål fra dokumentene dine, noe som senker terskelen for systematisk evaluering.
Metoden er å dele et svar opp i atomære utsagn og sjekke hvert enkelt mot den hentede konteksten, og det er slik den skårer trofasthet så presist. Ifølge langcopilot har RAGAS-målene korrelert godt med menneskelig vurdering, og slått naiv nullskudd-skåring fra en generell modell. Den påliteligheten er grunnen til at det har blitt et standardutgangspunkt for mange team som formaliserer evalueringen sin.
Målene som vurderer RAG-systemer, beskriver også hvordan innholdet ditt oppdages og brukes av AI. Trofasthet belønner kilder en motor kan forankre påstander i med trygghet, mens rangeringsmål som MRR og NDCG belønner innhold som dukker opp tidlig og tydelig. Å forstå hva disse systemene optimaliserer for, forteller deg hvordan hentbart og pålitelig innhold ser ut innenfra.
Det gjør evaluering av henting til en stille blåkopi for generativ motoroptimalisering. Vil du være avsnittet som siteres, skriv innhold som skårer godt på motorens implisitte kontroller: nøyaktig, selvstendig og lett å tilskrive. Kombiner den tankegangen med nøye søkeordsresearch og innholdsplanlegging, og du treffer spørringene der sterk dokumentasjon vinner siteringer.
Evaluering er bare så god som dataene sine. Fasitmerkelapper er kostbare og subjektive, og et tynt eller skjevt testsett kan gi flatterende skårer som skjuler reelle problemer. Språkmodeller som dommere reduserer den kostnaden, men innfører egne skjevheter, så dommene deres må jevnlig kontrolleres mot menneskelig vurdering.
Heller ikke ett enkelt tall forteller hele historien. Et system kan oppnå høy recall, men lav trofasthet, eller sterk trofasthet på et svar som ikke er relevant, og derfor brukes disse målene som et panel og ikke som en poengtavle. Det bredere feltet AI-referansetester møter samme forsiktighet: mål veileder forbedring, men må tolkes sammen og holdes ærlige med menneskelig tilsyn.
Evaluering av henting måler både om et RAG-system finner riktig kontekst og om det bruker den konteksten trofast, ved å kombinere hentemål som recall, presisjon, MRR og NDCG med genereringsmål som trofasthet og svarrelevans. RAG-triaden gir en rask første diagnose, og rammeverk som RAGAS gjør systematisk evaluering tilgjengelig.
For å gå videre kan du koble dette med hentingsdekning og den bredere arkitekturen for gjenfinningsforsterket generering, og bruke Soranks research- og innholdsplanleggingsverktøy for å bygge innhold som disse systemene henter og stoler på. Kildehenvisninger: Qdrant, LangCopilot og Redis.
Kilder
På hentesiden er kjernemålene recall at k (fant du de relevante dokumentene), presisjon at k (er de hentede resultatene relevante), MRR (står det første relevante resultatet tidlig) og NDCG (gradert relevans vektet etter posisjon). På genereringssiden betyr trofasthet og svarrelevans mest. Mange team starter med RAG-triaden: kontekstrelevans, trofasthet og svarrelevans.
RAGAS er et åpen kildekode-rammeverk bygget spesielt for å evaluere RAG-systemer. Det gir mål uten referansesvar, som kontekstpresisjon, kontekstrecall, trofasthet og svarrelevans, beregnet med språkmodeller som fungerer som dommere, så du trenger ofte ikke merket fasit. Det fungerer rett ut av boksen og kan generere syntetiske testspørsmål fra dokumentene dine, og skårene har korrelert godt med menneskelig vurdering.
AI-ene henter og setter sammen innhold, og de samme målene som vurderer prosessene deres, beskriver hvordan innholdet ditt blir funnet og brukt. Trofasthet belønner innhold en motor kan forankre påstander i, og rangeringsmål belønner innhold som dukker opp tidlig og tydelig. Å forstå evaluering hjelper deg med å skrive hentbare, nøyaktige og godt strukturerte sider som oftere blir hentet og sitert.
DE PRØVDE SORANK FØR DEG
