Pular para o conteúdo

Inteligência artificial · Na prática · 6 min de leitura

Fine-tuning, RAG ou só prompt? Como decidir

Prompt ensina a tarefa, RAG traz o conhecimento e fine-tuning muda o comportamento do modelo. A ordem certa economiza tempo e dinheiro.

1. Prompt → Falta conhecimento?Falta conhecimento? → 2. RAG: simsim2. RAG → Falta jeito?Falta jeito? → 3. Fine-tuning: simsim1. Prompt — instruções + exemplos1. Promptinstruções + exemplosFalta conhecimento? — fatos, documentosFalta conhecimento?fatos, documentos2. RAG — buscar e citar2. RAGbuscar e citarFalta jeito? — formato, estiloFalta jeito?formato, estilo3. Fine-tuning — LoRA, dados próprios3. Fine-tuningLoRA, dados próprios

Arraste para o lado para ver o diagrama inteiro.

Comece pelo mais barato e reversível. Muitas aplicações nunca precisam do terceiro passo.

Prompt

Resolve a maioria dos casos: instruções claras e alguns exemplos. É instantâneo de mudar e não exige dados de treino.

RAG

Use quando o modelo precisa de conhecimento que muda ou é privado: manuais, políticas, catálogo. Atualiza na hora e permite citar fontes.

Fine-tuning

Ajusta os pesos com exemplos seus para mudar o comportamento: um formato rígido, um estilo, uma classificação específica, ou para que um modelo menor (e mais barato) faça o que um maior fazia. Técnicas como LoRA e QLoRA treinam só pequenas matrizes adicionais e cabem em uma GPU. Fine-tuning não é bom para ensinar fatos novos: eles ficam desatualizados e o modelo pode inventar.

Em resumo

Vantagens e custos

Vantagens
  • Fine-tuning reduz prompts longos e pode baratear
  • RAG mantém fatos atualizados e citáveis
Custos e riscos
  • Fine-tuning exige dados bons e reavaliação a cada modelo novo
  • RAG adiciona infraestrutura de busca

Referências

Continue aprendendo

Todos os temas de inteligência artificial →