Cosa sono i token nell'IA, in parole semplici
Cosa sono i token nell'IA? I token sono i piccoli pezzi di testo che un'IA legge e scrive. Un token è di solito una parola breve o una parte di una parola più lunga. I token contano per un'azienda perché l'uso dell'IA si misura, si limita e si fattura in token, un po' come l'elettricità si fattura in kWh.
Perché l'IA conta in token e non in parole
Un'IA non legge frasi intere come facciamo noi. Prima di cominciare, il tuo testo viene tagliato in piccoli pezzi, e ogni pezzo è un token. La risposta viene prodotta nello stesso modo, pezzo per pezzo.
Le parole brevi e comuni sono un token ciascuna. Le parole più lunghe o più rare vengono tagliate in due o tre. Contano anche i segni di punteggiatura e i numeri.
Quanto testo è un token?
Per l'inglese c'è una regola pratica: 100 token sono circa 75 parole. Una pagina piena di testo sono più o meno da 500 a 700 token.
La regola è solo approssimativa. Altre lingue spesso richiedono più token per lo stesso significato. Anche tabelle, numeri lunghi e indirizzi web ne usano più delle frasi normali.
Si contano sia la lettura sia la scrittura
- I token in ingresso sono tutto ciò che l'IA legge: la tua domanda, ogni documento che le passi e, in una chat, tutta la conversazione fino a quel punto.
- I token in uscita sono tutto ciò che l'IA scrive in risposta.
I fornitori di solito fanno pagare di più l'uscita dell'ingresso. Anche una risposta lunga arriva più lentamente, semplicemente perché ci sono più token da scrivere.
Un esempio svolto: riassumere un contratto
Supponi di chiedere a un'IA di riassumere in 150 parole un contratto con un fornitore di 3.000 parole.
| Parte della richiesta | Parole | Token, circa |
|---|---|---|
| La tua domanda | 20 | 30 |
| Il contratto | 3.000 | 4.000 |
| Il riassunto che scrive | 150 | 200 |
| Totale | circa 4.230 |
Due cose saltano all'occhio. Il contratto costituisce quasi tutto il totale. Ciò che invii conta molto più di come formuli la domanda. E se poi nella stessa chat chiedi «Quale clausola riguarda il ritardo nella consegna?», il contratto viene letto di nuovo. La seconda domanda costa circa come la prima.
Dove si usano token senza che te ne accorga
- Chat lunghe. Ogni nuovo messaggio si porta dietro tutti quelli precedenti.
- File interi per una piccola domanda. Si inviano quaranta pagine per trovare una data.
- IA che lavora in più passaggi. Ogni passaggio legge i risultati di quelli prima.
Quattro modi per usare meno token
- Invia la parte che conta, non tutto il documento.
- Apri una nuova chat quando cambia l'argomento.
- Chiedi la lunghezza che ti serve. «Tre punti elenco» costa meno di una domanda aperta.
- Non usare l'IA per passaggi che una semplice regola fissa può gestire.
Devi contare i token da solo?
No. Basta sapere cosa fa salire il conto: quanto deve leggere l'IA e quanto deve scrivere. Quando confronti prodotti di IA, chiedi come fanno a tenere piccole entrambe le cose.
Come lo gestisce Worknano
Worknano è costruito perché l'IA legga poco e legga la cosa giusta. L'AI Assistant e gli agenti usano la ricerca semantica, una ricerca che trova il testo in base al suo significato. Invece di leggere documenti interi, leggono solo i passaggi che contano e rispondono da quelli. Rendere i tuoi contenuti ricercabili e cercarli non consuma i tuoi crediti IA. Ogni agente ha una sua impostazione del modello, così i controlli brevi possono girare su un modello veloce. Il piano ha un prezzo per azienda, mai per utente, quindi aggiungere colleghi non cambia il conto.
- Quale modello di IA usa Worknano?
- Come funzionano i prezzi durante l'accesso anticipato
- Ricerca semantica: solo i passaggi che contano
Crea un workspace gratuito e fai una domanda sui tuoi documenti.