A cena se repete em quase toda média empresa que começou a usar IA. O gestor sobe o manual do produto, três planilhas de preços e uma pasta com 40 contratos em um chatbot, digita "qual é o prazo de garantia do modelo X?" e recebe uma resposta confiante — e errada. O arquivo estava lá. A IA simplesmente não achou o trecho certo.

É nesse ponto que muita gente conclui que "IA não funciona". A conclusão costuma estar errada. O que falha, na maioria dos casos, é a preparação do material e a forma como ele é consultado. Busca em documentos com IA na empresa depende menos do modelo escolhido e mais de como o conteúdo foi tratado antes de chegar até ele.

Vale comparar dois caminhos concretos: manter a estrutura de pastas e planilhas que a empresa já tem, ou montar uma base de conhecimento com RAG. O critério de decisão não é sofisticação tecnológica, é a pergunta que o seu time precisa responder no dia a dia.

O que o RAG faz antes de formular a resposta

RAG (Retrieval-Augmented Generation, ou geração aumentada por recuperação) é um padrão em que o sistema procura o trecho relevante nos seus documentos antes de escrever a resposta. Não é um modelo novo nem um produto específico: é uma ordem de operações — busca primeiro, redige depois.

A orientação prescritiva da AWS descreve o processo em quatro etapas. A primeira acontece uma vez: os documentos internos são quebrados em pedaços e cada pedaço é convertido em um vetor (embedding), que é uma representação numérica do significado daquele trecho. Esses vetores ficam em um banco de dados vetorial. As outras três etapas se repetem a cada pergunta: a consulta em linguagem natural é enviada, o sistema faz uma busca por similaridade e recupera os trechos mais próximos, e só então o modelo gera a resposta usando esses trechos como contexto.

A diferença prática é grande. Em vez de responder a partir do que aprendeu no treinamento, o modelo lê o trecho que você forneceu. Isso reduz a alucinação — não elimina. Um trecho mal recortado, fora de contexto ou desatualizado continua produzindo resposta ruim.

O que o RAG faz antes de formular a resposta

Por que a busca por palavra-chave falha

Quem procura "folga" não encontra o documento que diz "PTO". Quem digita "prazo de devolução" não acha o contrato que escreveu "direito de arrependimento". A busca semântica resolve isso porque compara significado, não correspondência exata de termos — é o que a documentação da OpenAI descreve ao explicar a recuperação em bancos vetoriais.

Na prática, o texto é dividido em blocos de 256 a 1024 tokens, com sobreposição para não cortar o sentido no meio. Na hora da consulta, o sistema seleciona os 3 a 10 trechos mais próximos e, se necessário, reordena os resultados por relevância antes de montar a resposta.

Higiene de dados: o pré-requisito que não aparece na proposta

Nenhum sistema de RAG salva documentos que não podem ser lidos. Quando o contrato é um PDF digitalizado como imagem, quando a planilha de preços tem fórmula quebrada e três abas com versões diferentes, ou quando existem cinco cópias do mesmo manual espalhadas por e-mail e pasta pessoal, a IA não tem o que recuperar.

Antes de discutir banco vetorial, a pergunta honesta é sobre o estado do acervo. Vale listar o que existe, quem mantém cada documento e qual é o formato. Essa etapa é o que a Site Sob Medida trata como descoberta: mapear processo e conteúdo antes de propor qualquer arquitetura. Pular essa parte é o caminho mais rápido para gastar em nuvem sem resolver a consulta.

Há um sinal claro de que a empresa está tratando o assunto com seriedade: ela mede o que consulta. Vale a leitura sobre maturidade no uso de IA para entender a diferença entre repassar respostas prontas e construir processo.

Formatos que funcionam e formatos que travam

Tipo de arquivo Fonte de problema O que resolve
PDF digitalizado (imagem) Sem texto extraível; OCR de baixa qualidade Reprocessar com OCR ou recuperar o original
Planilha com regras embaralhadas Preço, desconto e exceção na mesma célula Separar em colunas com tipo definido
Contrato em .docx com histórico Alterações pendentes e comentários Congelar versão assinada em texto limpo
Apresentação comercial Texto solto em caixas e imagens Extrair para documento de texto
E-mail com decisão importante Fica fora de qualquer base Migrar para repositório com regra de retenção

Privacidade e segurança: onde os contratos vazam

Consultar arquivos com IA de forma segura exige decidir onde o conteúdo é processado. Em ferramentas públicas, o texto enviado na conversa pode ser usado para melhorar o serviço, dependendo da configuração da conta e do plano. Contratos com nome de cliente, tabela de preço e dado de negociação não deveriam circular por esse caminho sem uma análise.

A LGPD se aplica a esse cenário. O radar tecnológico da ANPD sobre IA generativa lembra que esses sistemas tratam grandes volumes de dados pessoais e não pessoais ao mesmo tempo, o que eleva o risco de uso sem salvaguarda e de violação do princípio da necessidade. Dados de titulares identificáveis dentro de um manual ou contrato continuam sendo dados pessoais.

Do lado técnico, o obstáculo principal é o controle de acesso. Abrir conteúdo interno para um modelo exige definir quem pode recuperar o quê, como aponta a própria documentação da Microsoft sobre os desafios de RAG. Em ambiente fechado, com permissão por usuário, o mesmo contrato pode ser consultável pelo jurídico e invisível para o time comercial.

Em muitos casos, parte do valor de um agente de IA bem implementado está justamente em operar dentro desses limites, com registro de quem perguntou o quê e qual trecho foi usado na resposta.

Quando planilha, ERP ou banco relacional resolvem melhor

RAG não é a resposta universal. Boa parte das perguntas internas tem resposta em um campo único e estruturado, e nesses casos uma consulta direta ao banco ou ao ERP é mais precisa, instantânea e barata.

Situação Caminho mais barato Por quê
Status de pedido, saldo, estoque, prazo Consulta direta ao ERP ou banco relacional Resposta exata, sem custo de modelo e sem interpretação
Catálogo com algumas centenas de itens padronizados Planilha organizada com filtro e palavra-chave Custo zero de nuvem e resultado previsível
Regras escritas em contratos, manuais e normas RAG O texto é a fonte e a busca semântica encontra por sentido
Mesmo assunto citado com termos diferentes RAG Palavra-chave falha diante de sinônimo e variação
Dado sigiloso que não pode sair do país Ambiente fechado ou solução local Controle sobre onde o conteúdo é processado

A regra é simples: se a resposta cabe em uma célula, não precisa de IA. Se a resposta está enterrada em prosa, em documento de 80 páginas ou em cinco versões que ninguém concilia, a busca semântica ganha terreno.

Custos operacionais: o que compõe a conta de um sistema RAG

O custo de busca em documentos com IA não é uma assinatura única. Ele tem quatro linhas, e três delas variam com o uso.

Linha de custo O que é Como varia
Embeddings (indexação) Converter cada trecho em vetor Volume de documentos; recalcula a cada mudança de modelo ou de chunking
Banco vetorial Guardar e consultar os vetores Dimensão do vetor e volume de consultas
Chamadas de LLM Gerar a resposta a cada pergunta Uso diário e tamanho do contexto enviado
Infraestrutura e manutenção Servidor, monitoramento, ajustes Frequência com que o conteúdo muda

O item que mais surpreende é o reembeddings. Indexar um corpus de 800 milhões de tokens custa de alguns dólares a cerca de US$ 120, dependendo do modelo — valores que não assustam. O que pesa é refazer esse trabalho a cada troca de modelo, ajuste de tamanho de trecho ou atualização em massa de documento. A conta boa é a do meio do caminho, não a do primeiro dia.

Custos operacionais: o que compõe a conta de um sistema RAG

Há paralelo com o que a empresa já enfrenta em outros canais. Quem acompanha o custo real de um agente de IA no WhatsApp reconhece a lógica: a infraestrutura inicial é modesta, mas as chamadas por uso e a manutenção contínua definem a viabilidade no longo prazo.

O que faz a conta subir sem aviso

  • Aumentar o contexto enviado a cada pergunta sem necessidade, jogando trechos irrelevantes junto.
  • Manter o índice desatualizado e obrigar a reindexação constante por falta de regra de versionamento.
  • Escolher um modelo de embedding largo demais, que multiplica o espaço ocupado no banco vetorial.
  • Deixar a base crescer sem curadoria, incluindo rascunhos e documentos vencidos.

Checklist: sua documentação está pronta para uma base de conhecimento

Antes de contratar qualquer implementação, responda com honestidade:

  • Cada documento tem um responsável e uma data de validade definidos?
  • Os arquivos estão em formato com texto extraível, e não apenas imagem digitalizada?
  • Existe uma única versão correta, sem cópias paralelas em pastas e e-mails?
  • Há controle de quem pode consultar cada tipo de documento?
  • Os nomes de arquivos e pastas indicam o conteúdo sem precisar abrir?
  • As planilhas usam campos padronizados para data, moeda e unidade?
  • A empresa sabe quantos documentos entrariam na busca hoje?

Menos de cinco itens marcados indica que o trabalho começa na organização, não no banco vetorial. Um sistema de RAG construído sobre acervo desorganizado apenas acelera a entrega de respostas ruins, com aparência de autoridade.

O próximo passo é de diagnóstico, não de contratação

A decisão entre planilha e RAG não é técnica por acaso: ela depende do tipo de pergunta, do estado do acervo e do risco envolvido no dado. Para perguntas com resposta em campo único, uma consulta ao sistema existente resolve por uma fração do custo. Para conteúdo em prosa, com variação de termo e necessidade de citação de fonte, a busca semântica entrega o que a palavra-chave não alcança.

O próximo passo é de diagnóstico, não de contratação

O erro mais comum é começar pela ferramenta. A empresa escolhe um produto, assina, tenta indexar 15 anos de arquivos e desiste. O caminho que funciona começa por mapear a documentação, definir permissões e só então decidir a arquitetura.

Se a dúvida é sobre o seu cenário específico, vale conversar com quem lê código e entende processo antes de propor solução. A Site Sob Medida faz esse diagnóstico para separar o que precisa de IA do que uma boa organização de dados já resolve.