A avaliação de recuperação mede quão bem um sistema RAG encontra e usa o contexto certo. Conheça as métricas, o tríade RAG e as boas práticas.

Nesta página
Resumo
A avaliação de recuperação é a prática de medir quão bem um sistema de recuperação encontra os documentos certos e quão fielmente um modelo os usa, recorrendo a métricas como recall em k, precisão em k, MRR, NDCG e fidelidade para julgar a qualidade de um pipeline RAG.
Quer ir mais longe? Pergunte ao
A avaliação de recuperação é a disciplina de medir se um sistema de recuperação revela a informação certa e se a resposta gerada realmente a usa bem. Num pipeline de geração aumentada por recuperação, uma boa resposta depende de duas coisas correrem bem: o recuperador encontrar contexto relevante e o modelo se manter fiel a esse contexto. A avaliação de recuperação coloca números em ambos para que as equipes consigam diagnosticar falhas e melhorar a qualidade em vez de adivinhar.
Isto importa porque um sistema RAG pode falhar em silêncio. Uma resposta pode soar fluente e assentar nas passagens erradas, ou o recuperador pode falhar fontes-chave de que o modelo precisava. Para quem constrói sistemas RAG, ou procura ser a fonte que eles citam, compreender como estes sistemas são avaliados revela exatamente como se parece um conteúdo bom e recuperável.
A avaliação de recuperação avalia as duas metades de um pipeline RAG separadamente e em conjunto. A metade da recuperação pergunta se o sistema encontrou informação semanticamente relevante. A metade da geração pergunta se a resposta é significativa, fundamentada e sobre o tema. Avaliá-las isoladamente é o que lhe permite distinguir um problema de recuperação de um problema de geração, que é o primeiro passo para resolver qualquer um deles.
É um ramo especializado da avaliação de LLM. Onde a avaliação geral de modelos pode julgar a fluência ou o raciocínio, a avaliação de recuperação se foca nas provas: o contexto certo foi recuperado, e o modelo honrou-o. Como as respostas RAG só valem o que valem as passagens que as sustentam, esta visão centrada nas provas é essencial para construir sistemas em que as pessoas possam confiar.
Quatro métricas ancoram o lado da recuperação. O recall em k é a proporção de todos os documentos relevantes presentes nos k melhores, com a langcopilot a sugerir um alvo de pelo menos 80 por cento em consultas críticas. A precisão em k é a fração dos k melhores que são de fato relevantes, em que maior precisão significa menos ruído para o modelo. Estas duas são a espinha dorsal da medição da cobertura de recuperação e da qualidade.
A posição na ordenação também importa. A Classificação Recíproca Média, ou MRR, calcula a média da posição recíproca do primeiro resultado relevante, pontuando 1,0 quando está em primeiro, 0,5 quando em segundo e perto de zero quando enterrado, com alvos de pergunta e resposta acima de 0,7. O Ganho Cumulativo Descontado Normalizado, ou NDCG, lida com relevância graduada e desconta os resultados por posição, para que um item relevante na posição um conte mais do que na posição dez, com a langcopilot a citar alvos acima de 0,85 para domínios bem definidos. O NDCG é o ajuste natural ao avaliar a classificação de passagens com várias respostas relevantes.
Uma boa recuperação é desperdiçada se o modelo a usar mal, por isso o lado da geração tem as suas próprias métricas. A fidelidade mede quão bem a resposta se mantém fiel às provas recuperadas sem introduzir alegações não sustentadas, muitas vezes calculada como a proporção de afirmações apoiadas pelo contexto. Em domínios de alto risco como a saúde e o jurídico, o alvo é perto de 100 por cento, porque uma alegação não sustentada é uma potencial alucinação de IA.
A relevância da resposta pergunta se a resposta realmente aborda a pergunta e se mantém sobre o tema, frequentemente medida através da similaridade de embeddings entre a resposta e a consulta ou por meio de um modelo de linguagem como juiz. A cobertura de citações, se as alegações são apoiadas por fontes, completa o quadro. Em conjunto, estas garantem que o sistema não está apenas a recuperar bem, mas a produzir respostas fundamentadas e úteis com uma citação de fonte adequada.
Uma forma prática de começar é o tríade RAG, que a Qdrant enquadra como eficácia da recuperação, relevância da resposta e coerência, e que outros guias exprimem como relevância do contexto, fidelidade e relevância da resposta. A ideia é que estas três verificações detectam os modos de falha mais comuns: má recuperação, geração alucinada e respostas fora do tema.
Lê-las em conjunto é diagnóstico. Se a relevância do contexto é baixa, o recuperador é o problema. Se o contexto é bom mas a fidelidade é baixa, o modelo está se desviando das suas provas. Se ambos estão bem mas a relevância da resposta é baixa, o sistema está fundamentado mas falha a verdadeira intenção do usuário. Esta separação é o que torna o tríade uma lente inicial tão útil antes de acrescentar métricas mais detalhadas.
Existem duas abordagens gerais. A avaliação com verdade de referência constrói pares de pergunta e resposta a partir de documentos de origem, e depois compara as respostas geradas com as respostas esperadas usando pontuações de similaridade e correção numa escala de zero a um. É rigorosa mas intensiva em trabalho, uma vez que alguém tem que rotular o que conta como relevante e correto.
A alternativa é usar um modelo de linguagem como juiz. As estruturas pontuam automaticamente a fidelidade, a relevância e a qualidade do contexto, o que escala muito melhor do que a revisão manual. A Qdrant descreve metodologias de LLM como juiz para avaliar a qualidade das respostas, e, na prática, as equipes combinam muitas vezes as duas: um conjunto central rotulado para valores de referência confiáveis, além de avaliação automática para uma cobertura ampla e frequente.
A RAGAS é uma estrutura de código aberto popular, construída especificamente para a avaliação de RAG. Fornece métricas sem referência, incluindo precisão de contexto, recall de contexto, fidelidade e relevância da resposta, calculadas com modelos de linguagem como juízes, por isso muitas vezes não precisa de verdade de referência rotulada. Funciona logo de início e pode até gerar consultas de teste sintéticas a partir dos seus documentos, baixando a barreira a uma avaliação sistemática.
O seu método é dividir uma resposta em afirmações atômicas e verificar cada uma em relação ao contexto recuperado, que é como pontua a fidelidade com tanta precisão. Segundo a langcopilot, as métricas da RAGAS se correlacionaram bem com o juízo humano, superando a pontuação ingênua de tipo zero-shot de um modelo geral. Essa confiabilidade é a razão pela qual se tornou um ponto de partida por padrão para muitas equipes que formalizam a sua avaliação.
As métricas que avaliam os sistemas RAG também descrevem como o seu conteúdo é descoberto e usado pelas IAs. A fidelidade recompensa fontes em que um motor possa fundamentar alegações com confiança, enquanto as métricas de ordenação como o MRR e o NDCG recompensam conteúdo que surge cedo e de forma clara. Compreender o que estes sistemas otimizam lhe diz como se parece, por dentro, um conteúdo extraível e confiável.
Isso torna a avaliação de recuperação um esquema silencioso para a otimização para IAs generativas. Se quiser ser a passagem citada, escreva conteúdo que pontue bem nas verificações implícitas do motor: preciso, autossuficiente e fácil de atribuir. Combinar essa mentalidade com uma pesquisa de palavras-chave e planejamento de conteúdo disciplinados ajuda-o a visar as consultas onde provas fortes conquistam citações.
A avaliação só vale o que valem os seus dados. Os rótulos de verdade de referência são caros e subjetivos, e um conjunto de teste pobre ou enviesado pode produzir pontuações lisonjeiras que escondem problemas reais. Os modelos de linguagem como juízes reduzem esse custo mas introduzem os seus próprios vieses, por isso os seus veredictos precisam de verificação periódica em relação à revisão humana.
Também nenhum número isolado conta toda a história. Um sistema pode ter recall elevado e fidelidade baixa, ou forte fidelidade numa resposta irrelevante, e é por isso que estas métricas são usadas como um painel e não como um placar. O campo mais amplo dos testes de referência de IA enfrenta a mesma cautela: as métricas orientam a melhoria, mas têm que ser interpretadas em conjunto e mantidas honestas com supervisão humana.
A avaliação de recuperação mede tanto se um sistema RAG encontra o contexto certo como se usa esse contexto com fidelidade, combinando métricas de recuperação como o recall, a precisão, o MRR e o NDCG com métricas de geração como a fidelidade e a relevância da resposta. O tríade RAG oferece um diagnóstico inicial rápido, e estruturas como a RAGAS tornam a avaliação sistemática acessível.
Para ir mais longe, ligue isto à cobertura de recuperação e à mais ampla arquitetura de geração aumentada por recuperação, e use as ferramentas de pesquisa e planejamento de conteúdo da Sorank para construir conteúdo que estes sistemas recuperam e em que confiam. Fontes de referência: Qdrant, LangCopilot e Redis.
Fontes
Do lado da recuperação, as métricas centrais são o recall em k (encontrou os documentos relevantes), a precisão em k (os resultados recuperados são relevantes), o MRR (o primeiro resultado relevante está bem posicionado) e o NDCG (relevância graduada ponderada pela posição). Do lado da geração, a fidelidade e a relevância da resposta são as que mais importam. Muitas equipes começam pelo tríade RAG: relevância do contexto, fidelidade e relevância da resposta.
A RAGAS é uma estrutura de código aberto construída especificamente para avaliar sistemas RAG. Fornece métricas sem referência, como precisão de contexto, recall de contexto, fidelidade e relevância da resposta, calculadas com modelos de linguagem a atuar como juízes, por isso muitas vezes não precisa de verdade de referência rotulada. Funciona logo de início e pode gerar perguntas de teste sintéticas a partir dos seus documentos, e as suas pontuações se correlacionaram bem com o juízo humano.
As IAs recuperam e sintetizam conteúdo, e as mesmas métricas que avaliam os seus pipelines descrevem como o seu conteúdo é encontrado e usado. A fidelidade recompensa conteúdo em que um motor possa fundamentar alegações, e as métricas de ordenação recompensam conteúdo que surge cedo e de forma clara. Compreender a avaliação ajuda-o a escrever páginas extraíveis, precisas e bem estruturadas, com mais probabilidade de serem recuperadas e citadas.
ELES EXPERIMENTARAM O SORANK ANTES DE VOCÊ
