এই টোকেন ক্যালকুলেটর কী গণনা করে?
এটি o200k_base GPT টোকেনাইজেশনের নিয়ম দিয়ে আপনার লেখা টোকেন গণনা করে। শব্দ, অক্ষর ও হোয়াইটস্পেসের সংখ্যাও দেখায়। টোকেনে শব্দ, শব্দের অংশ, যতিচিহ্ন বা হোয়াইটস্পেস থাকতে পারে।
GPT টোকেনাইজেশন দিয়ে গণনা হয়। অন্য মডেলে ফল ভিন্ন হতে পারে।
স্থানীয়ভাবে একটি করে ফাইল গণনা হয়। টেক্সট সম্পাদকে লোড না করে পুরো বিষয়বস্তু গণনা করা হয়। প্রথম 500টি টোকেনের পূর্বরূপ দেখতে সম্পন্ন ফাইল বেছে নিন।
স্পেস, লাইনবিরতি ও ট্যাব অক্ষরের গণনা। হোয়াইটস্পেস কাছের লেখার সঙ্গে একই টোকেনে থাকতে পারে, তাই এই সংখ্যাগুলো মোট টোকেন থেকে বিয়োগ করা যায় না।
একটি অক্ষর একাধিক টোকেনে ছড়াতে পারে। মূল লেখা অক্ষত রাখতে পৃথক বাইটের অংশ হেক্স মান হিসেবে দেখানো হয়।
AI প্রম্পটে ব্যবহারের আগে লেখা মাপতে এই বিনামূল্যের টোকেন গণক ও ক্যালকুলেটর ব্যবহার করুন। টোকেন, শব্দ ও অক্ষরের সংখ্যা দেখুন, হোয়াইটস্পেস পরীক্ষা করুন এবং লেখা কীভাবে টোকেনে ভাগ হয় দেখুন।
এটি o200k_base GPT টোকেনাইজেশনের নিয়ম দিয়ে আপনার লেখা টোকেন গণনা করে। শব্দ, অক্ষর ও হোয়াইটস্পেসের সংখ্যাও দেখায়। টোকেনে শব্দ, শব্দের অংশ, যতিচিহ্ন বা হোয়াইটস্পেস থাকতে পারে।
না। একটি টোকেনে কয়েকটি অক্ষর বা শব্দের অংশ থাকতে পারে, আর একটি অক্ষর একাধিক টোকেন ব্যবহার করতে পারে। দেখতে এক অক্ষর হলেও ইমোজি ও যুক্ত চিহ্নসহ অক্ষর একাধিক টোকেন ব্যবহার করতে পারে। অক্ষর ও টোকেনের নির্দিষ্ট অনুপাত নেই।
তিনটিই সমর্থিত, তবে CJK হিসেবে একত্র করলেই প্রতি অক্ষরে এক টোকেন সংখ্যা হয় না। প্রচলিত অক্ষরের ক্রম এক টোকেন হতে পারে, আবার এক অক্ষর বা সিলেবল কয়েকটি টোকেনে ভাগ হতে পারে। গণনা প্রকৃত লেখা ও টোকেনাইজেশনের নিয়মের ওপর নির্ভর করে, শুধু ভাষার ওপর নয়।
গণক লাতিন, সিরিলিক, আরবি, ভারতীয় ও অন্যান্য লিপির লেখাও সমর্থন করে, মিশ্র ভাষার লেখাসহ। শব্দ ছোট অংশে ভাগ হতে পারে, তাই ইংরেজি শব্দ বা অক্ষরের অনুমান সব ভাষায় প্রযোজ্য নয়। একই বাক্যের অনুবাদে টোকেন সংখ্যা ভিন্ন হতে পারে।
আধুনিক ব্রাউজারে Han অক্ষর, জাপানি kana, কোরীয় সিলেবল বা লাতিন অক্ষর সাধারণত একটি অক্ষর হিসেবে গণনা হয়। যুক্ত উচ্চারণচিহ্নসহ অক্ষর বা যুক্ত ইমোজিও সাধারণত একটি হিসেবে গণনা হয়। হোয়াইটস্পেস ও যতিচিহ্ন অন্তর্ভুক্ত। শব্দের সীমানা ভাষা অনুযায়ী নির্ধারিত হয়, তাই শুধু ফাঁক নেই বলে CJK অংশ এক শব্দ ধরা হয় না। উভয় গণনা টোকেন থেকে আলাদা।
টোকেন গণনায় স্পেস ও অন্যান্য হোয়াইটস্পেস অন্তর্ভুক্ত। স্পেস পরের শব্দের সঙ্গে মিশতে পারে অথবা আলাদা টোকেনে থাকতে পারে। স্পেস সরালে কাছের টোকেনের সীমানা বদলাতে পারে, তাই এক স্পেস মানেই সবসময় এক টোকেন নয়।
না। মডেল ভিন্ন টোকেনাইজেশনের নিয়ম ব্যবহার করতে পারে। এই সরঞ্জাম সাধারণ লেখার জন্য GPT-এর রেফারেন্স গণনা দেয়। পূর্ণ চ্যাট অনুরোধে ভূমিকা, বার্তার বিন্যাস ও সরঞ্জামের সংজ্ঞাও থাকতে পারে, তাই মোট ব্যবহার ভিন্ন হতে পারে।
না। লেখা ও আমদানি করা ফাইল ব্রাউজারেই গণনা হয়। সরঞ্জাম এগুলোর বিষয়বস্তু কোনো গণনা সেবায় পাঠায় না।
লেখার দৈর্ঘ্য বা ফাইলের আকারের নির্দিষ্ট সীমা নেই। বড় ইনপুটে বেশি সময় লাগে এবং ডিভাইসের উপলব্ধ মেমরির ওপর নির্ভর করে। ফাইল মোড প্রতিটি ফাইল পুরো গণনা করে, টেক্সট সম্পাদকে রাখে না এবং বাতিল করলে সম্পন্ন ফল রাখে। টোকেন পূর্বরূপে শুধু প্রথম 500টি টোকেন দেখায়; CSV প্রতিবেদনে সম্পূর্ণ গণনা থাকে।
সংশ্লিষ্ট সরঞ্জাম: শব্দ গণনাকারী
Java, Python, JavaScript, JSON, HTML-সহ বিভিন্ন কোড বিন্যাস ও পরিপাটি করুন; ইন্ডেন্টেশন, ফাঁক এবং লাইন বিভাজন ঠিক করুন।
রেকর্ডিং ট্রিম, যুক্ত বা ভাগ করুন, নীরবতা বা নয়েজ সরান এবং ভলিউম, গতি, পিচ বা চ্যানেল পরিবর্তন করুন।
CSV বা Excel শিট খুলুন ও সম্পাদনা করুন, টেবিলের লেখা বিন্যাস করুন এবং CSV থেকে Excel বা SQL-এ রূপান্তর করুন।
Markdown লিখুন ও পূর্বরূপ দেখুন, Mermaid ডায়াগ্রাম তৈরি করুন এবং Markdown, HTML ও টেবিলের মধ্যে রূপান্তর করুন।
লেখার অংশ তুলনা করুন, শব্দ ও মূল শব্দ গণনা করুন, লাইন সাজান বা প্রতিস্থাপন করুন এবং DOCX-এর লেখা দেখুন।
চীনা শব্দের অর্থ, সমার্থক ও বিপরীত শব্দ খুঁজুন অথবা বিভিন্ন ভাষার IPA উচ্চারণ দেখুন।
MP3, WAV, FLAC-সহ বিভিন্ন বিন্যাসের মধ্যে রূপান্তর করুন, অডিও বা কাঁচা PCM চালান এবং অডিও মেটাডেটা দেখুন বা সম্পাদনা করুন।
JSON দেখুন, তুলনা ও যাচাই করুন; JSONPath এক্সপ্রেশন পরীক্ষা করুন অথবা ডেটা CSV, YAML ও XML-এ রূপান্তর করুন।
অডিও থেকে লেখা তৈরি করুন, লেখা থেকে কথা তৈরি করুন অথবা ব্রাউজারে আপনার কণ্ঠ রেকর্ড করুন।
ভিডিও রূপান্তর ও সংকুচিত করুন, ক্লিপ ট্রিম বা যুক্ত করুন, ফ্রেমের আকার পরিবর্তন করুন এবং অডিও বের করুন।
স্থানীয় বা স্ট্রিমিং ভিডিও চালান, স্ক্রিন বা ক্যামেরা রেকর্ড করুন এবং ক্যামেরাকে অনলাইন আয়না হিসেবে ব্যবহার করুন।
PDF সংকুচিত বা একত্র করুন, পৃষ্ঠা ভাগ ও পুনর্বিন্যাস করুন, পৃষ্ঠা ছবিতে রূপান্তর করুন এবং নথি দেখুন বা তুলনা করুন।
ছবির বিন্যাস রূপান্তর করুন, আকার পরিবর্তন বা ক্রপ করুন, ফাইল সংকুচিত করুন, ছবি তুলনা করুন এবং OCR দিয়ে লেখা বের করুন।
স্ক্রিনশট তুলুন ও সাজান, লেখা থেকে ছবি বা GIF তৈরি করুন, হোয়াইটবোর্ডে আঁকুন এবং শব্দমেঘ বা ফ্যাভিকন তৈরি করুন।
ভিডিওর পূর্বরূপসহ SRT বা VTT সাবটাইটেল সম্পাদনা করুন, সময় সরান, বিন্যাস রূপান্তর করুন এবং সাবটাইটেল ট্র্যাক পরিচালনা করুন।
ZIP, 7Z, RAR বা TAR ফাইল খুলুন, নির্বাচিত উপাদান বের করুন এবং প্রয়োজনে ZIP/7Z পাসওয়ার্ডসহ নতুন আর্কাইভ তৈরি করুন।
Base64 বা Base32 এনকোড ও ডিকোড করুন, URL, HTML ও Unicode লেখা এস্কেপ করুন এবং JWT-এর বিষয়বস্তু দেখুন।
বাইনারি, দশমিক ও হেক্সের মধ্যে সংখ্যার ভিত্তি ও মান রূপান্তর করুন; সংখ্যা কথায় লিখুন অথবা লেখা বাইনারিতে রূপান্তর করুন।
শতকরা ও ভগ্নাংশের হিসাব করুন, পরিসংখ্যানের সারসংক্ষেপ দেখুন এবং গ্রেড, ছাড় বা অনুপাত গণনা করুন।
অনলাইন ঘড়ি দেখুন, কাউন্টডাউন বা স্টপওয়াচ চালান এবং তারিখ, বয়স বা সময় অঞ্চলের পার্থক্য গণনা করুন।
আপনার IP ও IPv6 সংযোগ যাচাই করুন, HTTP অনুরোধ বা HAR ফাইল দেখুন এবং CIDR ঠিকানার পরিসর গণনা করুন।
দৈর্ঘ্য, ওজন, তাপমাত্রা, ডেটা স্টোরেজ-সহ অন্যান্য একক রূপান্তর করুন।
HEX, RGB ও HSL মান রূপান্তর করুন, ছবি থেকে রঙ সংগ্রহ করুন, কনট্রাস্ট যাচাই করুন বা একরঙা পর্দা দিয়ে ডিসপ্লে পরীক্ষা করুন।
লিংক ও Wi-Fi নেটওয়ার্কের QR কোডসহ QR কোড বা বারকোড তৈরি ও স্ক্যান করুন।
হ্যাশ, UUID ও পাসওয়ার্ড তৈরি করুন, রেগুলার এক্সপ্রেশন পরীক্ষা করুন, URL স্লাগ তৈরি করুন এবং ফাইলের অনুমতি যাচাই করুন।
স্ক্রিনের রেজোলিউশন ও রিফ্রেশ রেট যাচাই করুন, স্ক্রিন রুলার দিয়ে মাপুন, কী পরীক্ষা করুন অথবা টেলিপ্রম্পটার থেকে পড়ুন।
2048, মাইনসুইপার, সুডোকু, গোমোকু, ট্যাঙ্ক যুদ্ধ