Apa yang dihitung oleh kalkulator token ini?
Alat ini menghitung token dalam teks yang Anda masukkan dengan aturan tokenisasi GPT o200k_base. Jumlah kata, karakter, dan karakter spasi putih juga ditampilkan. Token dapat berisi satu kata, sebagian kata, tanda baca, atau karakter spasi putih.
Apakah satu karakter selalu sama dengan satu token?
Tidak. Satu token dapat berisi beberapa karakter atau hanya sebagian kata, dan satu karakter dapat menggunakan beberapa token. Emoji dan huruf dengan tanda gabung juga dapat menggunakan beberapa token meskipun terlihat seperti satu karakter. Tidak ada rasio tetap antara karakter dan token.
Bagaimana teks bahasa Mandarin, Jepang, dan Korea dihitung?
Ketiganya didukung, tetapi pengelompokan sebagai CJK tidak berarti ketiganya memiliki jumlah token per karakter yang sama. Rangkaian karakter yang umum dapat membentuk satu token, sedangkan satu karakter atau suku kata dapat dipecah menjadi beberapa token. Jumlahnya bergantung pada teks yang sebenarnya dan aturan tokenisasi, bukan hanya bahasanya.
Bagaimana dengan bahasa lain dan teks campuran?
Penghitung ini juga mendukung teks dalam aksara Latin, Kiril, Arab, India, dan aksara lainnya, termasuk teks yang mencampur beberapa bahasa. Kata dapat dipecah menjadi bagian yang lebih kecil, sehingga perkiraan berdasarkan kata atau karakter bahasa Inggris tidak berlaku untuk semua bahasa. Terjemahan dari kalimat yang sama dapat memiliki jumlah token yang berbeda.
Bagaimana karakter dan kata dihitung?
Di browser modern, satu karakter Han, kana Jepang, suku kata Korea, atau huruf Latin biasanya dihitung sebagai satu karakter. Huruf dengan aksen gabung atau emoji gabungan biasanya juga dihitung sebagai satu karakter. Karakter spasi putih dan tanda baca juga dihitung. Kata mengikuti batas yang sesuai dengan bahasa, sehingga bagian teks CJK tidak dianggap sebagai satu kata hanya karena tidak memiliki spasi. Kedua hitungan ini terpisah dari hitungan token.
Apakah spasi dihitung sebagai token?
Spasi dan karakter spasi putih lainnya disertakan dalam penghitungan token. Spasi dapat digabung dengan kata setelahnya atau menjadi token tersendiri. Menghapus spasi dapat mengubah batas token di sekitarnya, jadi satu spasi tidak selalu berarti satu token.
Apakah hitungan ini akan sama untuk semua model AI?
Tidak. Model dapat menggunakan aturan tokenisasi yang berbeda. Alat ini memberikan hitungan acuan GPT untuk teks biasa. Permintaan percakapan lengkap juga dapat memuat peran, format pesan, dan definisi alat, sehingga jumlah penggunaan totalnya dapat berbeda.
Apakah teks saya diunggah?
Tidak. Teks dan file yang diimpor dihitung di browser Anda. Alat ini tidak mengirimkan isinya ke layanan penghitungan.
Apakah ada batas panjang teks atau ukuran file?
Tidak ada batas tetap untuk panjang teks atau ukuran file. Masukan besar memerlukan waktu lebih lama dan bergantung pada memori yang tersedia di perangkat Anda. Alat ini menghitung seluruh teks dan hanya menampilkan 500 token pertama dalam pratinjau; pratinjau tidak mengurangi jumlah total. Gunakan “Bersihkan” untuk menghentikan penghitungan saat ini.