Definizione
Che cos’è Token e come funziona?
Prompt e risposta vengono convertiti in token. Il loro numero influisce sul contesto disponibile, sul tempo di risposta e spesso sul costo del servizio.
Ogni modello ha il proprio tokenizer, quindi lo stesso testo produce conteggi diversi a seconda del fornitore. In inglese un token corrisponde in media a circa quattro caratteri; l’italiano, con parole più lunghe e flesse, di solito ne richiede di più per lo stesso contenuto. Codici articolo, numeri lunghi e tabelle esportate in testo si spezzano in molti token e gonfiano il conteggio.
Esempio aziendale
Esempio di Token in azienda
Un’applicazione calcola i token dei contratti prima dell’analisi per scegliere suddivisione, modello e costo massimo.
Applicazioni
Quando può essere utile
- stima dei costi
- gestione del contesto
- suddivisione documenti
- monitoraggio delle richieste
- scelta del modello
Limiti
Quando fare attenzione
- stime basate sulle parole invece del tokenizer
- tabelle e codici che moltiplicano i token
- token di output spesso più lenti da generare
- cronologia della chat ricalcolata a ogni turno
Da non confondere
Token: con cosa non va confuso?
Un token non equivale sempre a una parola. La suddivisione dipende dal tokenizer utilizzato dal modello.
Dalla definizione al progetto
Cosa può realizzare Agentix con Token
Nelle applicazioni che elaborano contratti, manuali o storici di ticket, Agentix misura i token prima di decidere l’architettura. Il conteggio stabilisce se un documento entra intero nel contesto, va diviso in sezioni o richiede un recupero mirato dei soli passaggi utili.
Nel software consegnato ogni chiamata registra token di input e di output per utente, funzione e documento. Su questa base si impostano limiti per richiesta, si accorciano prompt di sistema ridondanti e si tagliano le cronologie di chat che crescono senza necessità.
Valuta il caso d’uso con AgentixRisposte rapide
Domande frequenti su Token
Quanti token ci sono in una pagina di testo?
Una pagina di circa 500 parole in italiano occupa indicativamente tra 700 e 900 token, ma il valore esatto dipende dal tokenizer. Per stime affidabili si usa la libreria di conteggio fornita dal produttore del modello sul testo reale.
Perché i token di input e di output sono contati separatamente?
L’input viene elaborato in blocco, mentre l’output è generato un token alla volta, ciascuno con un passaggio completo del modello. Per questo una risposta lunga richiede più tempo di un prompt lungo e i fornitori trattano le due voci in modo distinto.
Dal concetto all’applicazione
Vuoi applicare Token nella tua azienda?
Partiamo dal processo, dai dati disponibili e dal risultato atteso per definire un primo progetto concreto.