—
tryAGI/Tiktoken
High-performance .NET BPE tokenizer — up to 618 MiB/s, competitive with Rust. Zero-allocation counting, multilingual cache, o200k/cl100k/r50k/p50k encodings + HuggingFace tokenizer.json support.
MIT2 вер. 2026 р. · метрики 2.10.0
Усі теги
Тег каталогу
#tiktoken
Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.
9 записів
crates.io · PyPI
ml-rust/splintr
A high-performance tokenizer (BPE + SentencePiece) built with Rust with Python bindings, focused on speed, safety, and resource optimization.
MIT5 серп. 2026 р. · метрики 2.10.0
crates.io
ai-dynamo/frontend-crates
Опис репозиторію не опубліковано.
Apache-2.022 серп. 2026 р. · метрики 2.10.0
crates.io · npm
goliajp/rust-tiktoken
High-performance Rust tiktoken BPE tokenizer + WASM bindings (@goliapkg/tiktoken-wasm)
Apache-2.08 серп. 2026 р. · метрики 2.10.0
npm · Go
lancekrogers/tcount
Local Tokenizer/Counter
MIT22 серп. 2026 р. · метрики 2.10.0
Go
ron2111/omnitoken
Pure-Go LLM tokenizer and tiktoken-compatible token counter for OpenAI BPE, WordPiece, SentencePiece, Gemini, Llama, Mistral, and Hugging Face adapters.
MIT5 вер. 2026 р. · метрики 2.10.0
Go · npm
lancekrogers/go-token-counter
Local-first LLM token counter: exact OpenAI BPE, Claude/Gemini estimates, context-window usage. Zero network. CLI + Go library.
MIT18 лип. 2026 р. · метрики 2.10.0
Packagist
mis3085/tiktoken-for-laravel
A tiktoken-php wrapper for Laravel
MIT22 лип. 2026 р. · метрики 2.10.0
PyPI · crates.io
marcelroed/gigatoken
Language model tokenization at GB/s
MIT22 лип. 2026 р. · метрики 2.10.0