A cena se repete em quase toda média empresa que começou a usar IA. O gestor sobe o manual do produto, três planilhas de preços e uma pasta com 40 contratos em um chatbot, digita "qual é o prazo de garantia do modelo X?" e recebe uma resposta confiante — e errada. O arquivo estava lá. A IA simplesmente não achou o trecho certo.
É nesse ponto que muita gente conclui que "IA não funciona". A conclusão costuma estar errada. O que falha, na maioria dos casos, é a preparação do material e a forma como ele é consultado. Busca em documentos com IA na empresa depende menos do modelo escolhido e mais de como o conteúdo foi tratado antes de chegar até ele.
Vale comparar dois caminhos concretos: manter a estrutura de pastas e planilhas que a empresa já tem, ou montar uma base de conhecimento com RAG. O critério de decisão não é sofisticação tecnológica, é a pergunta que o seu time precisa responder no dia a dia.
O que o RAG faz antes de formular a resposta
RAG (Retrieval-Augmented Generation, ou geração aumentada por recuperação) é um padrão em que o sistema procura o trecho relevante nos seus documentos antes de escrever a resposta. Não é um modelo novo nem um produto específico: é uma ordem de operações — busca primeiro, redige depois.
A orientação prescritiva da AWS descreve o processo em quatro etapas. A primeira acontece uma vez: os documentos internos são quebrados em pedaços e cada pedaço é convertido em um vetor (embedding), que é uma representação numérica do significado daquele trecho. Esses vetores ficam em um banco de dados vetorial. As outras três etapas se repetem a cada pergunta: a consulta em linguagem natural é enviada, o sistema faz uma busca por similaridade e recupera os trechos mais próximos, e só então o modelo gera a resposta usando esses trechos como contexto.
A diferença prática é grande. Em vez de responder a partir do que aprendeu no treinamento, o modelo lê o trecho que você forneceu. Isso reduz a alucinação — não elimina. Um trecho mal recortado, fora de contexto ou desatualizado continua produzindo resposta ruim.

Por que a busca por palavra-chave falha
Quem procura "folga" não encontra o documento que diz "PTO". Quem digita "prazo de devolução" não acha o contrato que escreveu "direito de arrependimento". A busca semântica resolve isso porque compara significado, não correspondência exata de termos — é o que a documentação da OpenAI descreve ao explicar a recuperação em bancos vetoriais.
Na prática, o texto é dividido em blocos de 256 a 1024 tokens, com sobreposição para não cortar o sentido no meio. Na hora da consulta, o sistema seleciona os 3 a 10 trechos mais próximos e, se necessário, reordena os resultados por relevância antes de montar a resposta.
Higiene de dados: o pré-requisito que não aparece na proposta
Nenhum sistema de RAG salva documentos que não podem ser lidos. Quando o contrato é um PDF digitalizado como imagem, quando a planilha de preços tem fórmula quebrada e três abas com versões diferentes, ou quando existem cinco cópias do mesmo manual espalhadas por e-mail e pasta pessoal, a IA não tem o que recuperar.
Antes de discutir banco vetorial, a pergunta honesta é sobre o estado do acervo. Vale listar o que existe, quem mantém cada documento e qual é o formato. Essa etapa é o que a Site Sob Medida trata como descoberta: mapear processo e conteúdo antes de propor qualquer arquitetura. Pular essa parte é o caminho mais rápido para gastar em nuvem sem resolver a consulta.
Há um sinal claro de que a empresa está tratando o assunto com seriedade: ela mede o que consulta. Vale a leitura sobre maturidade no uso de IA para entender a diferença entre repassar respostas prontas e construir processo.
Formatos que funcionam e formatos que travam
| Tipo de arquivo | Fonte de problema | O que resolve |
|---|---|---|
| PDF digitalizado (imagem) | Sem texto extraível; OCR de baixa qualidade | Reprocessar com OCR ou recuperar o original |
| Planilha com regras embaralhadas | Preço, desconto e exceção na mesma célula | Separar em colunas com tipo definido |
| Contrato em .docx com histórico | Alterações pendentes e comentários | Congelar versão assinada em texto limpo |
| Apresentação comercial | Texto solto em caixas e imagens | Extrair para documento de texto |
| E-mail com decisão importante | Fica fora de qualquer base | Migrar para repositório com regra de retenção |
Privacidade e segurança: onde os contratos vazam
Consultar arquivos com IA de forma segura exige decidir onde o conteúdo é processado. Em ferramentas públicas, o texto enviado na conversa pode ser usado para melhorar o serviço, dependendo da configuração da conta e do plano. Contratos com nome de cliente, tabela de preço e dado de negociação não deveriam circular por esse caminho sem uma análise.
A LGPD se aplica a esse cenário. O radar tecnológico da ANPD sobre IA generativa lembra que esses sistemas tratam grandes volumes de dados pessoais e não pessoais ao mesmo tempo, o que eleva o risco de uso sem salvaguarda e de violação do princípio da necessidade. Dados de titulares identificáveis dentro de um manual ou contrato continuam sendo dados pessoais.
Do lado técnico, o obstáculo principal é o controle de acesso. Abrir conteúdo interno para um modelo exige definir quem pode recuperar o quê, como aponta a própria documentação da Microsoft sobre os desafios de RAG. Em ambiente fechado, com permissão por usuário, o mesmo contrato pode ser consultável pelo jurídico e invisível para o time comercial.
Em muitos casos, parte do valor de um agente de IA bem implementado está justamente em operar dentro desses limites, com registro de quem perguntou o quê e qual trecho foi usado na resposta.
Quando planilha, ERP ou banco relacional resolvem melhor
RAG não é a resposta universal. Boa parte das perguntas internas tem resposta em um campo único e estruturado, e nesses casos uma consulta direta ao banco ou ao ERP é mais precisa, instantânea e barata.
| Situação | Caminho mais barato | Por quê |
|---|---|---|
| Status de pedido, saldo, estoque, prazo | Consulta direta ao ERP ou banco relacional | Resposta exata, sem custo de modelo e sem interpretação |
| Catálogo com algumas centenas de itens padronizados | Planilha organizada com filtro e palavra-chave | Custo zero de nuvem e resultado previsível |
| Regras escritas em contratos, manuais e normas | RAG | O texto é a fonte e a busca semântica encontra por sentido |
| Mesmo assunto citado com termos diferentes | RAG | Palavra-chave falha diante de sinônimo e variação |
| Dado sigiloso que não pode sair do país | Ambiente fechado ou solução local | Controle sobre onde o conteúdo é processado |
A regra é simples: se a resposta cabe em uma célula, não precisa de IA. Se a resposta está enterrada em prosa, em documento de 80 páginas ou em cinco versões que ninguém concilia, a busca semântica ganha terreno.
Custos operacionais: o que compõe a conta de um sistema RAG
O custo de busca em documentos com IA não é uma assinatura única. Ele tem quatro linhas, e três delas variam com o uso.
| Linha de custo | O que é | Como varia |
|---|---|---|
| Embeddings (indexação) | Converter cada trecho em vetor | Volume de documentos; recalcula a cada mudança de modelo ou de chunking |
| Banco vetorial | Guardar e consultar os vetores | Dimensão do vetor e volume de consultas |
| Chamadas de LLM | Gerar a resposta a cada pergunta | Uso diário e tamanho do contexto enviado |
| Infraestrutura e manutenção | Servidor, monitoramento, ajustes | Frequência com que o conteúdo muda |
O item que mais surpreende é o reembeddings. Indexar um corpus de 800 milhões de tokens custa de alguns dólares a cerca de US$ 120, dependendo do modelo — valores que não assustam. O que pesa é refazer esse trabalho a cada troca de modelo, ajuste de tamanho de trecho ou atualização em massa de documento. A conta boa é a do meio do caminho, não a do primeiro dia.

Há paralelo com o que a empresa já enfrenta em outros canais. Quem acompanha o custo real de um agente de IA no WhatsApp reconhece a lógica: a infraestrutura inicial é modesta, mas as chamadas por uso e a manutenção contínua definem a viabilidade no longo prazo.
O que faz a conta subir sem aviso
- Aumentar o contexto enviado a cada pergunta sem necessidade, jogando trechos irrelevantes junto.
- Manter o índice desatualizado e obrigar a reindexação constante por falta de regra de versionamento.
- Escolher um modelo de embedding largo demais, que multiplica o espaço ocupado no banco vetorial.
- Deixar a base crescer sem curadoria, incluindo rascunhos e documentos vencidos.
Checklist: sua documentação está pronta para uma base de conhecimento
Antes de contratar qualquer implementação, responda com honestidade:
- Cada documento tem um responsável e uma data de validade definidos?
- Os arquivos estão em formato com texto extraível, e não apenas imagem digitalizada?
- Existe uma única versão correta, sem cópias paralelas em pastas e e-mails?
- Há controle de quem pode consultar cada tipo de documento?
- Os nomes de arquivos e pastas indicam o conteúdo sem precisar abrir?
- As planilhas usam campos padronizados para data, moeda e unidade?
- A empresa sabe quantos documentos entrariam na busca hoje?
Menos de cinco itens marcados indica que o trabalho começa na organização, não no banco vetorial. Um sistema de RAG construído sobre acervo desorganizado apenas acelera a entrega de respostas ruins, com aparência de autoridade.
O próximo passo é de diagnóstico, não de contratação
A decisão entre planilha e RAG não é técnica por acaso: ela depende do tipo de pergunta, do estado do acervo e do risco envolvido no dado. Para perguntas com resposta em campo único, uma consulta ao sistema existente resolve por uma fração do custo. Para conteúdo em prosa, com variação de termo e necessidade de citação de fonte, a busca semântica entrega o que a palavra-chave não alcança.

O erro mais comum é começar pela ferramenta. A empresa escolhe um produto, assina, tenta indexar 15 anos de arquivos e desiste. O caminho que funciona começa por mapear a documentação, definir permissões e só então decidir a arquitetura.
Se a dúvida é sobre o seu cenário específico, vale conversar com quem lê código e entende processo antes de propor solução. A Site Sob Medida faz esse diagnóstico para separar o que precisa de IA do que uma boa organização de dados já resolve.




