O que esta calculadora de tokens conta?
Ela conta os tokens do texto inserido usando as regras de tokenização GPT o200k_base. Também mostra a contagem de palavras, caracteres e espaços em branco. Um token pode conter uma palavra, parte de uma palavra, pontuação ou espaços em branco.
Um caractere sempre equivale a um token?
Não. Um token pode conter vários caracteres ou apenas parte de uma palavra, e um caractere pode ocupar vários tokens. Emojis e letras com marcas combinantes também podem ocupar vários tokens, mesmo quando parecem um único caractere. Não existe uma proporção fixa entre caracteres e tokens.
Como são contados os textos em chinês, japonês e coreano?
Os três são aceitos, mas agrupá-los como CJK não significa que tenham a mesma quantidade de tokens por caractere. Sequências frequentes de caracteres podem formar um token, enquanto um único caractere ou uma sílaba pode ser dividido em vários. A contagem depende do texto real e das regras de tokenização, não apenas do idioma.
E quanto a outros idiomas e textos mistos?
O contador também aceita textos nas escritas latina, cirílica, árabe, índicas e outras, incluindo textos que misturam idiomas. As palavras podem ser divididas em partes menores, por isso as estimativas baseadas em palavras ou caracteres do inglês não se aplicam a todos os idiomas. Traduções da mesma frase podem ter quantidades diferentes de tokens.
Como são contados os caracteres e as palavras?
Nos navegadores modernos, um caractere han, um kana japonês, uma sílaba coreana ou uma letra latina geralmente conta como um caractere. Uma letra com acento combinante ou um emoji composto também costuma contar como um. Espaços em branco e pontuação são incluídos. As palavras seguem limites adequados ao idioma, portanto um trecho CJK não é considerado uma única palavra apenas por não ter espaços. Ambas as contagens são independentes da contagem de tokens.
Os espaços contam como tokens?
Espaços e outros espaços em branco são incluídos na contagem de tokens. Um espaço pode ser combinado com a palavra seguinte ou formar um token separado. Remover um espaço pode alterar os limites dos tokens próximos, portanto um espaço nem sempre equivale a um token.
Esta contagem será igual à de todos os modelos de IA?
Não. Os modelos podem usar regras de tokenização diferentes. Esta ferramenta fornece uma contagem de referência GPT para texto simples. Solicitações completas de chat também podem conter funções, formatação de mensagens e definições de ferramentas, por isso o uso total pode variar.
Meu texto é enviado a um servidor?
Não. O texto e os arquivos importados são contados no navegador. A ferramenta não envia seu conteúdo a um serviço de contagem.
Existe um limite de tamanho do texto ou do arquivo?
Não há limite fixo de comprimento do texto ou tamanho do arquivo. Entradas grandes levam mais tempo e dependem da memória disponível no seu dispositivo. A ferramenta conta o texto completo e mostra apenas os primeiros 500 tokens na prévia; a prévia não reduz o total. Use “Limpar” para interromper a contagem atual.