RAG vs fine-tuning: duas formas de uma IA aprender a sua empresa
RAG vs fine-tuning, em resumo: ambos são formas de tornar uma IA útil para a sua própria empresa. Com RAG, a IA consulta a informação da sua empresa no momento em que pergunta e responde com base no que encontra. Com fine-tuning, a IA é treinada mais com os seus próprios exemplos, e o seu comportamento muda de forma permanente. O RAG dá-lhe conhecimento. O fine-tuning dá-lhe hábitos.
RAG: um exame com consulta
RAG significa retrieval-augmented generation (geração aumentada por recuperação). Em palavras simples: primeiro consulta, depois responde. Quando faz uma pergunta, corre uma pesquisa nos seus documentos e registos. As passagens que melhor correspondem são colocadas à frente da IA, e ela escreve a resposta a partir delas. A própria IA fica exatamente como estava.
Pergunte «Que pré-aviso combinámos com o senhorio?» e a pesquisa encontra a cláusula no contrato de arrendamento. A IA responde a partir dessa cláusula e pode mostrar-lhe de onde veio.
Fine-tuning: treino extra
O fine-tuning pega numa IA existente e treina-a mais com exemplos que prepara. Isto costuma exigir centenas ou milhares de exemplos, cada um com um pedido e a resposta ideal. O resultado é uma nova versão da IA que segue esses padrões sem lhe dizerem de cada vez.
Uma empresa pode fazer fine-tuning de uma IA com duas mil respostas de apoio passadas, para que todos os rascunhos saiam no tom da casa.
A diferença numa tabela
| RAG | Fine-tuning | |
|---|---|---|
| O que muda | O que é mostrado à IA | A própria IA |
| Bom para | Factos, documentos, registos atuais | Tom, formato, uma tarefa concreta |
| Quando a informação muda | A resposta seguinte usa a versão nova | O treino tem de ser repetido |
| Mostra de onde veio a resposta | Sim | Não |
| Trabalho para começar | O seu conteúdo tem de ser pesquisável | É preciso reunir e verificar muitos bons exemplos |
Um equívoco comum
Muitos donos acham que o fine-tuning é a forma de «ensinar a IA sobre a nossa empresa»: dar-lhe o manual, a tabela de preços e os ficheiros de clientes, e ela fica a saber. O fine-tuning não funciona assim. Uma IA não guarda texto como um arquivo. Apanha padrões. Pode depois indicar um preço ou um nome errado e mesmo assim parecer segura. Os factos pertencem a um sítio onde possam ser consultados, atualizados e verificados.
De qual precisa? Quatro perguntas
- A IA precisa de factos sobre os seus clientes, produtos ou regras? RAG.
- Essa informação muda ao longo do ano? RAG.
- Pessoas diferentes podem ver informação diferente? RAG. Uma pesquisa pode mostrar a cada pessoa apenas o que ela tem permissão para ver. Uma IA treinada não consegue fazer essa distinção.
- O conteúdo está certo e só o tom ou o formato estão errados? Primeiro escreva instruções mais claras e junte-lhes alguns exemplos. Pense em fine-tuning só se isso não chegar.
Para a maioria das pequenas empresas, as três primeiras perguntas resolvem tudo. O fine-tuning exige um grande conjunto de bons exemplos e alguém que cuide dele. Compensa sobretudo numa tarefa concreta que é feita um número enorme de vezes.
Os dois também podem ser usados em conjunto. Um define como a resposta soa, o outro o que ela contém.
De que depende o RAG
O RAG é tão bom quanto aquilo que consegue encontrar. O seu conteúdo tem de estar num sítio a que a pesquisa chegue. Deve estar atualizado. E não deve haver três versões antigas do mesmo ficheiro a dizer coisas diferentes.
Como o Worknano trata disto
O Worknano segue o caminho da consulta. A sua pesquisa semântica, uma pesquisa que encontra texto pelo seu sentido, abrange documentos, tarefas, negócios, contactos e OKR, incluindo o texto dentro de ficheiros PDF, Word, Excel e PowerPoint carregados. O AI Assistant e os agentes respondem a partir das passagens que ela encontra. O conteúdo novo e alterado fica pesquisável automaticamente, por isso não há nada a treinar de novo. As pessoas só encontram o que têm permissão para ler. A forma como o assistente deve soar também é uma definição: a voz da marca fica em Organization, Settings.
Crie um workspace gratuito, carregue alguns documentos e pergunte ao assistente o que contêm.