A avaliação de recuperação mede quão bem um sistema RAG encontra e usa o contexto certo. Conheça as métricas, o tríade RAG e as boas práticas.

A avaliação de recuperação é a disciplina de medir se um sistema de recuperação revela a informação certa e se a resposta gerada realmente a usa bem. Num pipeline de geração aumentada por recuperação, uma boa resposta depende de duas coisas correrem bem: o recuperador encontrar contexto relevante e o modelo manter-se fiel a esse contexto. A avaliação de recuperação coloca números em ambos para que as equipas consigam diagnosticar falhas e melhorar a qualidade em vez de adivinhar.
Isto importa porque um sistema RAG pode falhar em silêncio. Uma resposta pode soar fluente e assentar nas passagens erradas, ou o recuperador pode falhar fontes-chave de que o modelo precisava. Para quem constrói sistemas RAG, ou procura ser a fonte que eles citam, compreender como estes sistemas são avaliados revela exatamente como se parece um conteúdo bom e recuperável.
A avaliação de recuperação avalia as duas metades de um pipeline RAG separadamente e em conjunto. A metade da recuperação pergunta se o sistema encontrou informação semanticamente relevante. A metade da geração pergunta se a resposta é significativa, fundamentada e sobre o tema. Avaliá-las isoladamente é o que lhe permite distinguir um problema de recuperação de um problema de geração, que é o primeiro passo para resolver qualquer um deles.
É um ramo especializado da avaliação de LLM. Onde a avaliação geral de modelos pode julgar a fluência ou o raciocínio, a avaliação de recuperação foca-se nas provas: o contexto certo foi recuperado, e o modelo honrou-o. Como as respostas RAG só valem o que valem as passagens que as sustentam, esta visão centrada nas provas é essencial para construir sistemas em que as pessoas possam confiar.
Quatro métricas ancoram o lado da recuperação. O recall em k é a proporção de todos os documentos relevantes presentes nos k melhores, com a langcopilot a sugerir um alvo de pelo menos 80 por cento em consultas críticas. A precisão em k é a fração dos k melhores que são de facto relevantes, em que maior precisão significa menos ruído para o modelo. Estas duas são a espinha dorsal da medição da cobertura de recuperação e da qualidade.
A posição na ordenação também importa. A Classificação Recíproca Média, ou MRR, calcula a média da posição recíproca do primeiro resultado relevante, pontuando 1,0 quando está em primeiro, 0,5 quando em segundo e perto de zero quando enterrado, com alvos de pergunta e resposta acima de 0,7. O Ganho Cumulativo Descontado Normalizado, ou NDCG, lida com relevância graduada e desconta os resultados por posição, para que um item relevante na posição um conte mais do que na posição dez, com a langcopilot a citar alvos acima de 0,85 para domínios bem definidos. O NDCG é o ajuste natural ao avaliar a classificação de passagens com várias respostas relevantes.
Uma boa recuperação é desperdiçada se o modelo a usar mal, por isso o lado da geração tem as suas próprias métricas. A fidelidade mede quão bem a resposta se mantém fiel às provas recuperadas sem introduzir alegações não sustentadas, muitas vezes calculada como a proporção de afirmações apoiadas pelo contexto. Em domínios de alto risco como a saúde e o jurídico, o alvo é perto de 100 por cento, porque uma alegação não sustentada é uma potencial alucinação de IA.
A relevância da resposta pergunta se a resposta realmente aborda a pergunta e se mantém sobre o tema, frequentemente medida através da similaridade de embeddings entre a resposta e a consulta ou por meio de um modelo de linguagem como juiz. A cobertura de citações, se as alegações são apoiadas por fontes, completa o quadro. Em conjunto, estas garantem que o sistema não está apenas a recuperar bem, mas a produzir respostas fundamentadas e úteis com uma citação de fonte adequada.
Uma forma prática de começar é o tríade RAG, que a Qdrant enquadra como eficácia da recuperação, relevância da resposta e coerência, e que outros guias exprimem como relevância do contexto, fidelidade e relevância da resposta. A ideia é que estas três verificações apanham os modos de falha mais comuns: má recuperação, geração alucinada e respostas fora do tema.
Lê-las em conjunto é diagnóstico. Se a relevância do contexto é baixa, o recuperador é o problema. Se o contexto é bom mas a fidelidade é baixa, o modelo está a desviar-se das suas provas. Se ambos estão bem mas a relevância da resposta é baixa, o sistema está fundamentado mas falha a verdadeira intenção do utilizador. Esta separação é o que torna o tríade uma lente inicial tão útil antes de acrescentar métricas mais detalhadas.
Existem duas abordagens gerais. A avaliação com verdade de referência constrói pares de pergunta e resposta a partir de documentos de origem, e depois compara as respostas geradas com as respostas esperadas usando pontuações de similaridade e correção numa escala de zero a um. É rigorosa mas intensiva em trabalho, uma vez que alguém tem de rotular o que conta como relevante e correto.
A alternativa é usar um modelo de linguagem como juiz. As estruturas pontuam automaticamente a fidelidade, a relevância e a qualidade do contexto, o que escala muito melhor do que a revisão manual. A Qdrant descreve metodologias de LLM como juiz para avaliar a qualidade das respostas, e, na prática, as equipas combinam muitas vezes as duas: um conjunto central rotulado para valores de referência fiáveis, além de avaliação automática para uma cobertura ampla e frequente.
A RAGAS é uma estrutura de código aberto popular, construída especificamente para a avaliação de RAG. Fornece métricas sem referência, incluindo precisão de contexto, recall de contexto, fidelidade e relevância da resposta, calculadas com modelos de linguagem como juízes, por isso muitas vezes não precisa de verdade de referência rotulada. Funciona logo de início e pode até gerar consultas de teste sintéticas a partir dos seus documentos, baixando a barreira a uma avaliação sistemática.
O seu método é dividir uma resposta em afirmações atómicas e verificar cada uma face ao contexto recuperado, que é como pontua a fidelidade com tanta precisão. Segundo a langcopilot, as métricas da RAGAS correlacionaram-se bem com o juízo humano, superando a pontuação ingénua de tipo zero-shot de um modelo geral. Essa fiabilidade é a razão pela qual se tornou um ponto de partida por defeito para muitas equipas que formalizam a sua avaliação.
As métricas que avaliam os sistemas RAG também descrevem como o seu conteúdo é descoberto e usado pelos motores de resposta de IA. A fidelidade recompensa fontes em que um motor possa fundamentar alegações com confiança, enquanto as métricas de ordenação como o MRR e o NDCG recompensam conteúdo que surge cedo e de forma clara. Compreender o que estes sistemas otimizam diz-lhe como se parece, por dentro, um conteúdo extraível e fiável.
Isso torna a avaliação de recuperação um esquema silencioso para a otimização de motores generativos. Se quiser ser a passagem citada, escreva conteúdo que pontue bem nas verificações implícitas do motor: preciso, autossuficiente e fácil de atribuir. Combinar essa mentalidade com uma pesquisa de palavras-chave e planeamento de conteúdo disciplinados ajuda-o a visar as consultas onde provas fortes conquistam citações.
A avaliação só vale o que valem os seus dados. Os rótulos de verdade de referência são caros e subjetivos, e um conjunto de teste pobre ou enviesado pode produzir pontuações lisonjeiras que escondem problemas reais. Os modelos de linguagem como juízes reduzem esse custo mas introduzem os seus próprios enviesamentos, por isso os seus veredictos precisam de verificação periódica face à revisão humana.
Também nenhum número isolado conta toda a história. Um sistema pode ter recall elevado e fidelidade baixa, ou forte fidelidade numa resposta irrelevante, e é por isso que estas métricas são usadas como um painel e não como um placar. O campo mais amplo dos testes de referência de IA enfrenta a mesma cautela: as métricas orientam a melhoria, mas têm de ser interpretadas em conjunto e mantidas honestas com supervisão humana.
A avaliação de recuperação mede tanto se um sistema RAG encontra o contexto certo como se usa esse contexto com fidelidade, combinando métricas de recuperação como o recall, a precisão, o MRR e o NDCG com métricas de geração como a fidelidade e a relevância da resposta. O tríade RAG oferece um diagnóstico inicial rápido, e estruturas como a RAGAS tornam a avaliação sistemática acessível.
Para ir mais longe, ligue isto à cobertura de recuperação e à mais ampla arquitetura de geração aumentada por recuperação, e use as ferramentas de pesquisa e planeamento de conteúdo da Sorank para construir conteúdo que estes sistemas recuperam e em que confiam. Fontes de referência: Qdrant, LangCopilot e Redis.
Do lado da recuperação, as métricas centrais são o recall em k (encontrou os documentos relevantes), a precisão em k (os resultados recuperados são relevantes), o MRR (o primeiro resultado relevante está bem posicionado) e o NDCG (relevância graduada ponderada pela posição). Do lado da geração, a fidelidade e a relevância da resposta são as que mais importam. Muitas equipas começam pelo tríade RAG: relevância do contexto, fidelidade e relevância da resposta.
A RAGAS é uma estrutura de código aberto construída especificamente para avaliar sistemas RAG. Fornece métricas sem referência, como precisão de contexto, recall de contexto, fidelidade e relevância da resposta, calculadas com modelos de linguagem a atuar como juízes, por isso muitas vezes não precisa de verdade de referência rotulada. Funciona logo de início e pode gerar perguntas de teste sintéticas a partir dos seus documentos, e as suas pontuações correlacionaram-se bem com o juízo humano.
Os motores de resposta de IA recuperam e sintetizam conteúdo, e as mesmas métricas que avaliam os seus pipelines descrevem como o seu conteúdo é encontrado e usado. A fidelidade recompensa conteúdo em que um motor possa fundamentar alegações, e as métricas de ordenação recompensam conteúdo que surge cedo e de forma clara. Compreender a avaliação ajuda-o a escrever páginas extraíveis, precisas e bem estruturadas, com mais probabilidade de serem recuperadas e citadas.