Mit számol ez a tokenkalkulátor?
A megadott szöveg tokenjeit az o200k_base GPT-tokenizálási szabályokkal számolja. A szavak, karakterek és szóközjellegű karakterek számát is mutatja. A token lehet egy szó, szórész, írásjel vagy szóközjellegű karakter.
Egy karakter mindig egy token?
Nem. Egy token több karaktert vagy csak egy szórészt tartalmazhat, egy karakter pedig több tokent is használhat. Az emodzsik és kombináló jelekkel ellátott betűk több tokent is igényelhetnek, még ha egyetlen karakternek látszanak is. Nincs rögzített karakter–token arány.
Hogyan számolja a kínai, japán és koreai szöveget?
Mindhárom támogatott, de a CJK-csoportosítás nem jelent közös karakterenkénti tokenszámot. Gyakori karaktersorozatok egy tokent alkothatnak, míg egyetlen karakter vagy szótag több tokenre bomolhat. A szám a tényleges szövegtől és tokenizálási szabályoktól függ, nem csupán a nyelvtől.
Mi a helyzet más nyelvekkel és vegyes szöveggel?
A számláló latin, cirill, arab, indiai és más írásrendszerek szövegét is támogatja, beleértve a vegyes nyelvű szöveget. A szavak kisebb részekre bomolhatnak, ezért az angol szó- vagy karakterbecslések nem érvényesek minden nyelvre. Ugyanazon mondat fordításai eltérő tokenszámúak lehetnek.
Hogyan számolja a karaktereket és szavakat?
Modern böngészőkben egy Han-karakter, japán kana, koreai szótag vagy latin betű általában egy karakternek számít. Egy kombinált ékezetes betű vagy összetett emodzsi is rendszerint egynek számít. A szóközjellegű karakterek és írásjelek beleszámítanak. A szavak nyelvfüggő határokat követnek, így egy CJK-szakasz nem lesz egyetlen szó pusztán a szóközök hiánya miatt. Mindkét számlálás különbözik a tokenektől.
A szóközök tokennek számítanak?
A szóközök és más szóközjellegű karakterek beleszámítanak a tokenekbe. Egy szóköz egyesülhet a következő szóval vagy külön tokent alkothat. Eltávolítása módosíthatja a közeli tokenhatárokat, ezért egy szóköz nem mindig egy token.
Minden MI-modellnél egyezni fog ez a szám?
Nem. A modellek eltérő tokenizálási szabályokat használhatnak. Ez az eszköz egyszerű szöveghez ad GPT-referenciaszámot. A teljes csevegési kérések szerepeket, üzenetformázást és eszközdefiníciókat is tartalmazhatnak, ezért a teljes felhasználás eltérhet.
Feltöltődik a szövegem?
Nem. A szöveg és az importált fájlok számlálása a böngészőben történik. Az eszköz nem küldi a tartalmukat számlálási szolgáltatásnak.
Van szöveg- vagy fájlméretkorlát?
Nincs rögzített szöveghossz- vagy fájlméretkorlát. A nagy bemenet több időt igényel, és az eszköz elérhető memóriájától függ. A fájlmód minden teljes fájlt megszámol anélkül, hogy a szövegszerkesztőbe tenné, megszakításkor pedig megtartja a kész eredményeket. A tokenelőnézet csak az első 500 tokent mutatja; a CSV-jelentések a teljes számokat tartalmazzák.