IA Generativa e RAG
Conceitos fundamentais de inteligência artificial generativa, modelos de linguagem e arquitetura RAG.
Cartões · 52
- RAG (Retrieval-Augmented Generation)
- Arquitetura que combina busca de dados externos com modelos generativos para gerar respostas mais precisas e atualizadas.
- LLM (Large Language Model)
- Modelo de inteligência artificial treinado em vastos volumes de texto capaz de compreender e gerar linguagem natural.
- Alucinação em LLMs
- Geração de respostas incorretas, inventadas ou sem base factual com tom de certeza pelo modelo generativo.
- Embedding
- Representação vetorial de palavras, frases ou documentos em um espaço contínuo multidimensional que captura relações semânticas.
- Modelo de Embedding
- Rede neural treinada especificamente para converter texto ou outros tipos de dados em vetores densos (embeddings).
- Banco de Dados Vetorial
- Sistema de armazenamento otimizado para indexar, gerenciar e buscar vetores numéricos de alta dimensão rapidamente.
- Busca Semântica
- Método de recuperação de informação que localiza dados com base no significado contextual, e não apenas em palavras-chave exatas.
- Busca Léxica (Palavra-chave)
- Técnica tradicional de recuperação baseada na correspondência exata de termos (como BM25 e TF-IDF).
- Busca Híbrida
- Combinação de busca vetorial (semântica) e busca por palavras-chave (léxica) para obter o melhor de ambas as abordagens.
- Similaridade por Cosseno
- Métrica que calcula o cosseno do ângulo entre dois vetores para determinar a similaridade semântica independente de sua magnitude.
- Distância Euclidiana (L2)
- Métrica de distância geométrica direta entre dois pontos em um espaço multidimensional; quanto menor, mais similares são os vetores.
- Produto Escalar (Dot Product)
- Operação matemática entre dois vetores usada para medir projeção e magnitude combinada, frequentemente normalizada para similaridade.
- Chunking
- Processo de dividir documentos extensos em partes menores e gerenciáveis para geração de embeddings e recuperação.
- Chunk Size
- Quantidade de tokens ou caracteres contida em cada pedaço de texto gerado durante a divisão de documentos.
- Chunk Overlap
- Área de sobreposição textual mantida entre chunks consecutivos para evitar a perda de contexto nas bordas da divisão.
- Chunking Fixo
- Estratégia que fatia o texto em tamanhos uniformes pré-determinados, independentemente da estrutura gramatical.
- Chunking Semântico
- Método de quebra de texto baseado na mudança de significado ou tópico, agrupando sentenças semanticamente similares.
- Janela de Contexto (Context Window)
- Limite máximo de tokens que um modelo de linguagem consegue processar simultaneamente na entrada e saída.
- Injeção de Contexto
- Ato de inserir os fragmentos recuperados da base vetorial diretamente no prompt antes de enviá-lo ao LLM.
- Prompt Engineering no RAG
- Elaboração de instruções que orientam o LLM a responder à consulta baseando-se estritamente no contexto recuperado.
- Reranking (Reordenação)
- Etapa que reavalia e reordena os chunks recuperados preliminarmente usando um modelo mais preciso para melhorar a relevância.
- Cross-Encoder
- Modelo que processa pergunta e documento juntos para avaliar relevância precisa, comumente usado em etapas de reranking.
- Bi-Encoder
- Modelo que gera embeddings independentes para pergunta e documento, permitindo busca rápida por similaridade em larga escala.
- RAG Ingênuo (Naive RAG)
- Fluxo padrão e linear de RAG composto unicamente por indexação de chunks, recuperação vetorial e geração direta.
- RAG Avançado (Advanced RAG)
- Abordagem que adiciona etapas de pré-recuperação (expansão de query) e pós-recuperação (reranking e sumarização).
- RAG Modular
- Arquitetura altamente flexível que integra módulos autônomos como roteamento de consultas, memória e ferramentas externas.
- Expansão de Query (Query Expansion)
- Geração de variações ou sinônimos da pergunta do usuário para ampliar o alcance e a cobertura da busca.
- Multi-Query Retriever
- Técnica que usa um LLM para gerar múltiplas formulações da mesma pergunta e busca chunks para cada uma delas.
- HyDE (Hypothetical Document Embeddings)
- Técnica que instrui o LLM a inventar uma resposta hipotética e busca documentos reais similares a esse texto fictício.
- Roteamento de Query (Query Routing)
- Decisão dinâmica que direciona a consulta do usuário para a base de conhecimento ou ferramenta mais adequada.
- Metadados em Bancos Vetoriais
- Informações adicionais associadas a cada vetor (como fonte, data ou categoria) usadas para filtrar a busca antes ou depois.
- Filtragem Prévia (Pre-filtering)
- Aplicação de filtros de metadados na base de dados antes de executar o cálculo de similaridade vetorial.
- Filtragem Posterior (Post-filtering)
- Execução da busca de similaridade vetorial primeiro, seguida da exclusão de resultados que não atendem aos critérios de metadados.
- BM25
- Algoritmo clássico de busca de texto probabilística baseado na frequência de termos em documentos (versão avançada de TF-IDF).
- HNSW (Hierarchical Navigable Small World)
- Estrutura de grafos usada por bancos vetoriais para realizar busca aproximada de vizinhos mais próximos (ANN) com alta velocidade.
- ANN (Approximate Nearest Neighbors)
- Classe de algoritmos que encontra itens vetoriais muito próximos trocando precisão perfeita por eficiência em larga escala.
- Perda no Meio (Lost in the Middle)
- Tendência dos LLMs de prestar mais atenção no início e no final do contexto fornecido, ignorando informações no meio.
- Compressão Contextual
- Redução e filtragem do conteúdo dos chunks recuperados para manter apenas os trechos estritamente relevantes para a resposta.
- Parent Document Retriever
- Técnica que divide o texto em chunks pequenos para busca precisa, mas retorna o documento pai maior como contexto para o LLM.
- Sentence Window Retrieval
- Recuperação focada em sentenças individuais exatas que entrega ao LLM a sentença acompanhada de uma janela de frases vizinhas.
- Graph RAG
- Uso de grafos de conhecimento associados a vetores para capturar entidades e relacionamentos complexos entre documentos.
- Self-RAG
- Framework adaptativo onde o LLM avalia criticamente quando precisa consultar dados externos e revisa a factualidade do texto gerado.
- Corrective RAG (CRAG)
- Método que avalia a qualidade dos documentos recuperados e recorre à busca na web caso a base vetorial seja insuficiente.
- Fidelidade (Faithfulness)
- Métrica de avaliação do RAG que mede se a resposta gerada é inteiramente fundamentada no contexto recuperado.
- Relevância da Resposta (Answer Relevance)
- Métrica que avalia o quanto a resposta final atende diretamente à pergunta original feita pelo usuário.
- Relevância do Contexto (Context Relevance)
- Métrica que mede a precisão dos chunks recuperados, avaliando se contêm apenas informações pertinentes à consulta.
- Framework RAGAS
- Ferramenta para avaliação automatizada de pipelines RAG sem depender de anotações humanas exaustivas.
- Fine-Tuning vs. RAG
- Fine-tuning adapta estilo e sintaxe do modelo em parâmetros; RAG fornece conhecimento dinâmico e atualizado via contexto.
- Agente RAG
- Agente autônomo baseado em LLM capaz de tomar decisões iterativas sobre quando e onde buscar dados antes de formular a resposta.
- Top-K
- Parâmetro que define o número exato de fragmentos ou documentos mais similares a serem recuperados na busca vetorial.
- Reciprocal Rank Fusion (RRF)
- Algoritmo de pontuação usado para mesclar de forma equilibrada resultados ranqueados de diferentes métodos de busca.
- Citação de Fontes no RAG
- Capacidade do modelo de indicar referências específicas dos documentos recuperados para justificar a resposta fornecida.