Que modelo de IA usar para cada tarefa?
Que modelo de IA para cada tarefa? Use o mais pequeno modelo que faça bem a tarefa. Um modelo rápido trata dos trabalhos curtos e frequentes. Um modelo equilibrado trata do trabalho do dia a dia com vários passos. Um modelo de raciocínio profundo é para problemas difíceis, e um modelo local é para dados que têm de ficar em casa.
Porque é que há mais do que um modelo
Um modelo de IA é o programa que pensa por trás de uma app de IA. Cada empresa de IA oferece vários, dos pequenos aos grandes. Os grandes resolvem problemas mais difíceis, mas respondem mais devagar e custam mais de cada vez que os usa.
É como escolher um veículo. Não contrata um camião para entregar uma carta, nem faz uma mudança de casa de bicicleta. A escolha certa depende da carga.
Os quatro tipos
- Rápido. Os modelos mais pequenos. Respondem quase de imediato e custam menos. Seguem bem instruções claras e têm dificuldade com tarefas que exigem muitos passos de raciocínio.
- Equilibrado. O meio da gama e uma escolha de partida sensata. Planeiam, escrevem bem e conseguem consultar informação, a um preço e velocidade moderados.
- De raciocínio profundo. Os maiores modelos. Trabalham o problema antes de responder. São os mais lentos e os mais caros.
- Local. Modelos que correm nos seus próprios computadores. Nada sai da sua empresa.
Os nomes dos modelos mudam de poucos em poucos meses. Estes quatro tipos mantêm-se.
Oito tarefas e o modelo que serve a cada uma
| Tarefa | Modelo |
|---|---|
| Triar pedidos recebidos por tema | Rápido |
| Tirar a data, o valor e o fornecedor de uma fatura | Rápido |
| Traduzir um aviso curto | Rápido |
| Resumir uma longa troca de e-mails com um cliente | Equilibrado |
| Redigir uma resposta no tom da sua empresa | Equilibrado |
| Planear um projeto em fases e tarefas | Equilibrado |
| Comparar ponto por ponto dois contratos longos | De raciocínio profundo |
| Resumir processos de pessoal que não podem sair da empresa | Local |
Como escolher, em quatro passos
- Reúna dez exemplos reais. Tire-os do trabalho do mês passado e inclua dois ou três mais complicados.
- Comece pelo modelo rápido. Corra os dez e conte quantos resultados teria aceitado.
- Melhore primeiro as instruções. Instruções pouco claras causam mais maus resultados do que um modelo demasiado pequeno.
- Suba um degrau só se os problemas continuarem. Depois corra de novo os mesmos dez exemplos e compare.
Repita o teste cerca de uma vez por ano. Chegam modelos novos com frequência e uma tarefa que no ano passado pedia um modelo equilibrado pode hoje correr bem num rápido.
O que um modelo maior não resolve
Duas coisas influenciam mais o resultado do que o tamanho do modelo. A primeira são as instruções: um trabalho claro e uma ideia clara de como a resposta deve ser. A segunda é a informação que o modelo recebe. Nenhum modelo pode saber o que não lhe foi mostrado. Se nunca viu a sua tabela de preços, até o maior só pode adivinhar.
Um só modelo para a empresa toda?
É tentador escolher o modelo mais forte e usá-lo para tudo. Isso torna cada pequena tarefa mais lenta e mais cara do que precisa de ser. Escolher por tarefa funciona melhor. A triagem que corre centenas de vezes por dia fica com o modelo rápido. A comparação de contratos que corre duas vezes por mês fica com o de raciocínio profundo.
Como o Worknano trata disto
No Worknano, o modelo é uma definição de cada agente, ao lado das suas instruções. Um agente é um ajudante de IA que configura para um trabalho. O guia para criar agentes dá a mesma regra prática: um modelo rápido serve para verificações curtas e um equilibrado serve para planear com vários passos. Não fica preso a uma única empresa de IA. Pode ligar qualquer modelo à sua escolha, incluindo modelos locais, modelos de código aberto ou o endpoint privado da sua empresa, e ajustar o modelo à tarefa, ao seu orçamento e às suas regras de dados.
- Que modelo de IA usa o AI Module Builder?
- Modelos de IA e onde os seus dados são processados
- Crie o seu próprio agente: modelo e instruções
Crie um workspace gratuito e defina o modelo do seu primeiro agente.