Que compte ce calculateur de tokens ?
Il compte les tokens du texte saisi selon les règles de tokenisation GPT o200k_base. Il indique aussi le nombre de mots, de caractères et d’espaces blancs. Un token peut contenir un mot, une partie de mot, de la ponctuation ou des espaces blancs.
Un caractère correspond-il toujours à un token ?
Non. Un token peut contenir plusieurs caractères ou seulement une partie de mot, et un caractère peut utiliser plusieurs tokens. Les émojis et les lettres accompagnées de signes combinatoires peuvent aussi utiliser plusieurs tokens, même s’ils ressemblent à un seul caractère. Il n’existe pas de rapport fixe entre caractères et tokens.
Comment les textes chinois, japonais et coréens sont-ils comptés ?
Les trois sont pris en charge, mais leur regroupement sous le nom CJK ne leur donne pas un nombre commun de tokens par caractère. Des suites de caractères fréquentes peuvent former un token, tandis qu’un seul caractère ou une seule syllabe peut être découpé en plusieurs tokens. Le résultat dépend du texte réel et des règles de tokenisation, pas uniquement de la langue.
Qu’en est-il des autres langues et des textes mixtes ?
Le compteur prend aussi en charge les textes en écritures latine, cyrillique, arabe, indiennes et autres, y compris les textes multilingues. Les mots peuvent être découpés en éléments plus petits : les estimations fondées sur les mots ou les caractères anglais ne s’appliquent donc pas à toutes les langues. Les traductions d’une même phrase peuvent avoir des nombres de tokens différents.
Comment les caractères et les mots sont-ils comptés ?
Dans les navigateurs modernes, un caractère han, un kana japonais, une syllabe coréenne ou une lettre latine compte généralement pour un caractère. Une lettre avec un accent combinatoire ou un émoji composé compte généralement aussi pour un caractère. Les espaces blancs et la ponctuation sont inclus. Les mots suivent des limites adaptées à la langue : un passage CJK n’est donc pas considéré comme un seul mot simplement parce qu’il ne contient pas d’espaces. Ces deux comptages sont distincts de celui des tokens.
Les espaces comptent-ils comme des tokens ?
Les espaces et autres espaces blancs sont inclus dans le comptage des tokens. Un espace peut être associé au mot suivant ou former un token distinct. Supprimer un espace peut modifier les limites des tokens voisins ; un espace ne correspond donc pas toujours à un token.
Ce comptage correspond-il à tous les modèles d’IA ?
Non. Les modèles peuvent utiliser des règles de tokenisation différentes. Cet outil fournit un comptage de référence GPT pour le texte brut. Les requêtes de conversation complètes peuvent aussi inclure des rôles, la mise en forme des messages et des définitions d’outils ; leur consommation totale peut donc différer.
Mon texte est-il envoyé sur un serveur ?
Non. Le texte et les fichiers importés sont comptés dans votre navigateur. L’outil n’envoie pas leur contenu à un service de comptage.
Y a-t-il une limite de longueur du texte ou de taille des fichiers ?
Il n’y a pas de limite fixe de longueur du texte ou de taille des fichiers. Les contenus volumineux prennent plus de temps et dépendent de la mémoire disponible sur votre appareil. L’outil compte tout le texte et n’affiche que les 500 premiers tokens dans l’aperçu ; cet aperçu ne réduit pas le total. Utilisez « Effacer » pour arrêter le comptage en cours.