RAG ou GraphRAG: quando cada um vale a pena

RAG ou Graph? Prefiro enxergar essa pergunta não como escolha de tecnologia, mas como decisão de arquitetura.

RAG (geração aumentada por recuperação) é o assistente que, antes de responder, busca os trechos certos nos documentos da empresa. Ele funciona muito bem quando o objetivo é recuperar informação de documentos e bases de conhecimento.

Mas e quando é preciso ir além de recuperar?

Quando o assunto envolve entidades, relações e dependências, e as perguntas exigem ligar informações espalhadas em fontes diferentes, um Knowledge Graph costuma fazer muito mais sentido. Knowledge Graph é um mapa de relações: cliente, contrato, produto e fornecedor como pontos ligados entre si.

É aí que a combinação fica interessante: RAG mais Knowledge Graph é o que se chama de GraphRAG.

Na prática, não vejo o GraphRAG como substituto do RAG tradicional. Ele é mais uma estratégia, para cenários específicos de IA dentro de empresas.

A pergunta certa

A pergunta certa não é "RAG ou Graph?". É esta: como o conhecimento do nosso negócio está organizado, e que tipo de raciocínio a IA precisa fazer?

• Conhecimento que vive principalmente em documentos: RAG.
• Conhecimento baseado em relações: Knowledge Graph.
• Contexto, relações e raciocínio sobre várias conexões ao mesmo tempo: GraphRAG.

No fim, arquitetura de IA não é escolher a tecnologia mais sofisticada. É escolher a abordagem que melhor resolve o problema, pesando qualidade, custo, tempo de resposta, complexidade de operar e capacidade de evoluir.

Esse é um dos pontos que considero cada vez mais importantes em AI Engineering: construir sistemas que não só respondam, mas que entendam o contexto do negócio em que estão.