Vyhodnocování vyhledávání měří, jak dobře systém RAG najde a použije správný kontext. Seznamte se s metrikami, trojicí RAG a osvědčenými postupy.

Na této stránce
Shrnutí
Vyhodnocování vyhledávání je postup, který měří, jak dobře systém vyhledávání najde správné dokumenty a jak věrně je model používá. K posouzení kvality RAG slouží metriky jako recall at k, preciznost at k, MRR, NDCG a věrnost zdrojům.
Chcete jít dál? Zeptejte se
Vyhodnocování vyhledávání je disciplína, která měří, zda systém vyhledávání vynáší správné informace a zda je vygenerovaná odpověď skutečně dobře využívá. V pipeline generování s podporou vyhledávání závisí dobrá odpověď na dvou věcech: že vyhledávač najde relevantní kontext a že model zůstane věrný tomuto kontextu. Vyhodnocování vyhledávání dává obojímu čísla, aby týmy mohly chyby diagnostikovat a kvalitu zlepšovat, místo aby hádaly.
To je důležité, protože systém RAG může selhávat tiše. Odpověď může znít plynule a přitom stát na špatných pasážích, nebo vyhledávač může minout klíčové zdroje, které model potřeboval. Pro každého, kdo staví systémy RAG nebo se snaží být zdrojem, který citují, odhaluje pochopení toho, jak se tyto systémy hodnotí, přesně to, jak vypadá dobrý, vyhledatelný obsah.
Vyhodnocování vyhledávání posuzuje obě poloviny pipeline RAG odděleně i dohromady. Polovina vyhledávání se ptá, zda systém našel sémanticky relevantní informace. Polovina generování se ptá, zda je odpověď smysluplná, ukotvená a k tématu. Hodnocení obou odděleně umožňuje rozlišit problém vyhledávání od problému generování, a to je první krok k opravě kteréhokoli z nich.
Jde o specializovanou větev hodnocení LLM. Zatímco obecné hodnocení modelu může posuzovat plynulost nebo uvažování, vyhodnocování vyhledávání se zaměřuje na důkazy: byl vyhledán správný kontext a respektoval ho model? Protože odpovědi RAG jsou jen tak dobré jako pasáže, na nichž stojí, je tento pohled na důkazy zásadní pro systémy, kterým lidé mohou důvěřovat.
Čtyři metriky kotví vyhledávací stranu. Recall at k je podíl všech relevantních dokumentů, které jsou v top k, přičemž langcopilot doporučuje cíl alespoň 80 % u kritických dotazů. Preciznost at k je podíl top k, který je skutečně relevantní, a vyšší preciznost znamená méně šumu pro model. Tyto dvě metriky tvoří páteř měření pokrytí vyhledávání a kvality.
Záleží i na pozici v žebříčku. Průměrná inverzní pozice prvního relevantního výsledku (Mean Reciprocal Rank, MRR) zprůměrovává převrácenou pozici prvního relevantního výsledku: skóre 1,0, když je první, 0,5, když druhý, a téměř nula, když je pohřbený hluboko. U otázek a odpovědí cílí nad 0,7. Normalizovaný diskontovaný kumulativní zisk (NDCG) pracuje se stupňovitou relevancí a slevuje výsledky podle pozice, takže relevantní položka na prvním místě se počítá více než na desátém. Langcopilot u dobře vymezených oborů uvádí cíle nad 0,85. NDCG se přirozeně hodí pro hodnocení řazení pasáží, kde je více relevantních odpovědí.
Dobré vyhledávání přijde vniveč, pokud ho model zneužije, takže strana generování má vlastní metriky. Věrnost zdrojům (faithfulness) měří, jak dobře odpověď drží vyhledané důkazy, aniž by přidávala nepodložená tvrzení, obvykle jako podíl výroků podložených kontextem. V oborech s vysokými sázkami, jako je zdravotnictví a právo, se cíl blíží 100 %, protože nepodložené tvrzení je potenciální halucinace AI.
Relevance odpovědi (answer relevance) se ptá, zda odpověď skutečně řeší otázku a zůstává u tématu, a často se měří podobností embeddingů mezi odpovědí a dotazem nebo posouzením jazykovým modelem v roli rozhodčího. Pokrytí citacemi, tedy zda jsou tvrzení podložena zdroji, dotváří obraz. Společně zajišťují, že systém nejen dobře vyhledává, ale vytváří ukotvené a užitečné odpovědi s řádným citováním zdrojů.
Praktický začátek je trojice RAG (RAG triad), kterou Qdrant popisuje jako účinnost vyhledávání, relevanci odpovědi a soudržnost, zatímco jiné průvodce ji vyjadřují jako relevanci kontextu, věrnost zdrojům a relevanci odpovědi. Myšlenka je, že tyto tři kontroly zachytí nejčastější režimy selhání: špatné vyhledávání, halucinované generování a odpovědi mimo téma.
Čtení všech tří dohromady je diagnostické. Pokud je relevance kontextu nízká, problémem je vyhledávač. Pokud je kontext dobrý, ale věrnost zdrojům nízká, model se odchyluje od svých důkazů. Pokud jsou obě v pořádku, ale relevance odpovědi je nízká, systém je ukotvený, ale mine skutečný záměr uživatele. Toto oddělení dělá z trojice užitečný první pohled dřív, než se přidají podrobnější metriky.
Existují dva široké přístupy. Vyhodnocení proti referenčním datům (ground truth) sestaví dvojice otázek a odpovědí ze zdrojových dokumentů a pak porovnává vygenerované odpovědi s očekávanými pomocí skóre podobnosti a správnosti na stupnici od nuly do jedné. Je to přísné, ale pracné, protože někdo musí označit, co je relevantní a správné.
Alternativou je použít jazykový model jako rozhodčího (LLM-as-a-judge). Rámce automaticky ohodnocují věrnost, relevanci a kvalitu kontextu, což se škáluje mnohem lépe než ruční kontrola. Qdrant popisuje metodiky LLM jako rozhodčího pro posuzování kvality odpovědí a v praxi týmy obvykle kombinují oba přístupy: označenou základní sadu pro důvěryhodné benchmarky a automatické posuzování pro široké a časté pokrytí.
RAGAS je oblíbený open-source rámec postavený přímo pro vyhodnocování RAG. Nabízí metriky bez referenčních dat (reference-free), mezi nimi preciznost kontextu, recall kontextu, věrnost zdrojům a relevanci odpovědi, počítané pomocí jazykových modelů v roli rozhodčích, takže často nepotřebujete označená referenční data. Funguje hned po instalaci a dokáže z vašich dokumentů generovat syntetické testovací dotazy, což snižuje překážku systematického vyhodnocování.
Jeho postup spočívá v tom, že odpověď rozdělí na atomická tvrzení a každé ověří proti vyhledanému kontextu, a právě díky tomu měří věrnost zdrojům tak přesně. Podle langcopilot metriky RAGAS dobře korelují s lidským úsudkem a překonávají naivní bodování zero-shot od obecného modelu. Tato spolehlivost je důvodem, proč se stal výchozím bodem pro mnoho týmů, které formalizují své vyhodnocování.
Metriky, které hodnotí systémy RAG, také popisují, jak váš obsah AI nachází a využívá. Věrnost zdrojům odměňuje zdroje, na které může systém sebevědomě ukotvit tvrzení, zatímco metriky řazení jako MRR a NDCG odměňují obsah, který se objeví brzy a jasně. Pochopení toho, na co tyto systémy optimalizují, vám ukáže, jak vypadá vytěžitelný a důvěryhodný obsah zevnitř.
To z vyhodnocování vyhledávání činí tichý plán pro generativní optimalizaci. Chcete-li být citovaným úsekem, pište obsah, který skóre dobře u implicitních kontrol systému: přesný, samostatný a snadno přiřaditelný. Spojení tohoto myšlení s pečlivým výzkumem klíčových slov a plánováním obsahu vám pomůže zacílit dotazy, kde silné důkazy vyhrávají citace.
Vyhodnocení je jen tak dobré jako jeho data. Referenční označení jsou drahá a subjektivní a chudá nebo zkreslená testovací sada může vytvořit lichotivá skóre, která skrývají skutečné problémy. Jazykové modely v roli rozhodčích náklady snižují, ale přinášejí vlastní zkreslení, takže jejich verdikty je potřeba pravidelně ověřovat proti lidskému posouzení.
Žádné jediné číslo nevypráví celý příběh. Systém může mít vysoký recall a přitom nízkou věrnost zdrojům, nebo silnou věrnost u irelevantní odpovědi, a proto se tyto metriky používají jako panel, a ne jako tabulka výsledků. Širší obor benchmarků AI čelí stejné opatrnosti: metriky vedou ke zlepšení, ale je třeba je číst společně a udržovat je poctivé pomocí lidského dohledu.
Vyhodnocování vyhledávání měří dvojí: zda systém RAG najde správný kontext a zda jej používá věrně. Kombinuje metriky vyhledávání jako recall, preciznost, MRR a NDCG s metrikami generování jako věrnost zdrojům a relevance odpovědi. Trojice RAG nabízí rychlou první diagnózu a rámce jako RAGAS činí systematické vyhodnocování dostupným.
Pro další kroky propojte toto s pokrytím vyhledávání a širší architekturou generování s podporou vyhledávání a využijte nástroje Sorank pro výzkum a plánování obsahu, abyste vytvořili obsah, který tyto systémy vyhledávají a kterému důvěřují. Referenční zdroje: Qdrant, LangCopilot a Redis.
Zdroje
Na straně vyhledávání jsou hlavní metriky recall at k (našli jste relevantní dokumenty), preciznost at k (jsou vyhledané výsledky relevantní), MRR (je první relevantní výsledek zařazen brzy) a NDCG (stupňovitá relevance vážená pozicí). Na straně generování nejvíc záleží na věrnosti zdrojům a relevanci odpovědi. Mnoho týmů začíná trojicí RAG: relevance kontextu, věrnost zdrojům a relevance odpovědi.
RAGAS je open-source rámec postavený přímo pro vyhodnocování systémů RAG. Nabízí metriky bez referenčních dat, jako jsou preciznost kontextu, recall kontextu, věrnost zdrojům a relevance odpovědi, počítané jazykovými modely v roli rozhodčích, takže často nepotřebujete označená referenční data. Funguje hned po instalaci, dokáže z vašich dokumentů generovat syntetické testovací otázky a jeho skóre dobře korelují s lidským úsudkem.
AI systémy vyhledávají a skládají obsah a stejné metriky, které hodnotí jejich postupy, popisují, jak se váš obsah nachází a využívá. Věrnost zdrojům odměňuje obsah, na který může systém ukotvit tvrzení, a metriky řazení odměňují obsah, který se objeví brzy a jasně. Pochopení vyhodnocování vám pomůže psát vytěžitelné, přesné a dobře strukturované stránky, které mají větší šanci být vyhledány a citovány.
VYZKOUŠELI SORANK PŘED VÁMI
