Che cosa conta questo calcolatore di token?
Conta i token del testo inserito secondo le regole di tokenizzazione GPT o200k_base. Mostra anche il numero di parole, caratteri e spazi bianchi. Un token può contenere una parola, parte di una parola, punteggiatura o spazi bianchi.
Un carattere equivale sempre a un token?
No. Un token può contenere più caratteri o solo una parte di una parola, e un carattere può occupare più token. Anche le emoji e le lettere con segni combinanti possono occupare più token, pur apparendo come un unico carattere. Non esiste un rapporto fisso tra caratteri e token.
Come vengono conteggiati i testi in cinese, giapponese e coreano?
Sono supportati tutti e tre, ma raggrupparli come CJK non significa che abbiano lo stesso numero di token per carattere. Le sequenze di caratteri comuni possono formare un token, mentre un singolo carattere o una sillaba può essere suddiviso in più token. Il conteggio dipende dal testo effettivo e dalle regole di tokenizzazione, non solo dalla lingua.
E le altre lingue e i testi misti?
Il contatore supporta anche testi in scrittura latina, cirillica, araba, nelle scritture indiane e in altre scritture, inclusi testi in più lingue. Le parole possono essere suddivise in parti più piccole, quindi le stime basate sulle parole o sui caratteri inglesi non valgono per tutte le lingue. Le traduzioni della stessa frase possono avere un numero diverso di token.
Come vengono conteggiati i caratteri e le parole?
Nei browser moderni, un carattere han, un kana giapponese, una sillaba coreana o una lettera latina conta in genere come un carattere. Anche una lettera con un accento combinante o un’emoji composta conta solitamente come uno. Sono inclusi anche gli spazi bianchi e la punteggiatura. Le parole seguono confini adeguati alla lingua, quindi un brano CJK non viene considerato un’unica parola solo perché non contiene spazi. Entrambi i conteggi sono separati da quello dei token.
Gli spazi contano come token?
Gli spazi e gli altri spazi bianchi sono inclusi nel conteggio dei token. Uno spazio può essere unito alla parola successiva o formare un token separato. Rimuovere uno spazio può modificare i confini dei token vicini, quindi uno spazio non equivale sempre a un token.
Questo conteggio corrisponde a quello di tutti i modelli IA?
No. I modelli possono usare regole di tokenizzazione diverse. Questo strumento fornisce un conteggio di riferimento GPT per il testo semplice. Le richieste di chat complete possono includere anche ruoli, formattazione dei messaggi e definizioni degli strumenti, quindi l’utilizzo totale può variare.
Il mio testo viene caricato su un server?
No. Il testo e i file importati vengono conteggiati nel browser. Lo strumento non invia il loro contenuto a un servizio di conteggio.
Ci sono limiti alla lunghezza del testo o alle dimensioni dei file?
Non ci sono limiti fissi alla lunghezza del testo o alle dimensioni dei file. I contenuti di grandi dimensioni richiedono più tempo e dipendono dalla memoria disponibile sul dispositivo. Lo strumento conta l’intero testo e mostra nell’anteprima solo i primi 500 token; l’anteprima non riduce il totale. Usa «Cancella» per interrompere il conteggio in corso.