O que são tokens em IA, em termos simples?
O que são tokens em IA? Tokens são os pequenos pedaços de texto que uma IA lê e escreve. Um token é normalmente uma palavra curta ou parte de uma palavra mais longa. Os tokens importam a uma empresa porque a utilização da IA é medida, limitada e cobrada em tokens, tal como a eletricidade é cobrada em unidades.
Porque é que a IA conta em tokens e não em palavras
Uma IA não lê frases inteiras como nós. Antes de começar, o seu texto é cortado em pequenos pedaços, e cada pedaço é um token. A resposta é produzida da mesma forma, pedaço a pedaço.
As palavras curtas e comuns são um token cada. As palavras mais longas ou raras são cortadas em dois ou três. Os sinais de pontuação e os números também contam.
Quanto texto é um token?
Para o inglês há uma regra prática: 100 tokens são cerca de 75 palavras. Uma página cheia de texto tem aproximadamente 500 a 700 tokens.
A regra é apenas aproximada. Outras línguas precisam muitas vezes de mais tokens para o mesmo significado. As tabelas, os números longos e os endereços web também gastam mais do que frases simples.
Ler e escrever contam os dois
- Tokens de entrada são tudo o que a IA lê: a sua pergunta, qualquer documento que envie e, num chat, toda a conversa até ao momento.
- Tokens de saída são tudo o que a IA escreve de volta.
Os fornecedores costumam cobrar mais pela saída do que pela entrada. Uma resposta longa também demora mais a chegar, simplesmente porque há mais tokens para escrever.
Um exemplo completo: resumir um contrato
Suponha que pede a uma IA para resumir em 150 palavras um contrato de fornecedor com 3.000 palavras.
| Parte do pedido | Palavras | Tokens, aproximadamente |
|---|---|---|
| A sua pergunta | 20 | 30 |
| O contrato | 3.000 | 4.000 |
| O resumo que escreve | 150 | 200 |
| Total | cerca de 4.230 |
Duas coisas saltam à vista. O contrato representa quase todo o total. O que envia importa muito mais do que a forma como formula a pergunta. E se perguntar a seguir, no mesmo chat, «Que cláusula trata do atraso na entrega?», o contrato é lido outra vez. A segunda pergunta custa quase o mesmo que a primeira.
Onde se gastam tokens sem dar por isso
- Chats longos. Cada mensagem nova leva consigo todas as anteriores.
- Ficheiros inteiros para uma pergunta pequena. Enviam-se quarenta páginas para encontrar uma data.
- IA que trabalha em vários passos. Cada passo lê os resultados dos anteriores.
Quatro formas de usar menos tokens
- Envie a parte que importa, não o documento inteiro.
- Comece um chat novo quando o assunto muda.
- Peça o tamanho de que precisa. «Três tópicos» custa menos do que uma pergunta aberta.
- Não use IA em passos que uma regra fixa simples consegue tratar.
Tem de contar os tokens você mesmo?
Não. Basta saber o que faz a contagem subir: quanto a IA tem de ler e quanto tem de escrever. Quando comparar produtos de IA, pergunte como mantêm ambos pequenos.
Como o Worknano trata disto
O Worknano foi pensado para que a IA leia pouco e leia o que interessa. O AI Assistant e os agentes usam a pesquisa semântica, uma pesquisa que encontra texto pelo seu sentido. Em vez de lerem documentos inteiros, leem só as passagens que importam e respondem a partir delas. Tornar o seu conteúdo pesquisável e pesquisá-lo não gasta os seus créditos de IA. Cada agente tem a sua própria definição de modelo, por isso as verificações curtas podem correr num modelo rápido. O plano em si tem preço por empresa, nunca por utilizador, por isso juntar colegas não altera a fatura.
- Que modelo de IA usa o Worknano?
- Como funcionam os preços no acesso antecipado
- Pesquisa semântica: só as passagens que importam
Crie um workspace gratuito e faça uma pergunta sobre os seus próprios documentos.