crates.io
ai-dynamo/frontend-crates
El repositorio no publica descripción.
Apache-2.020 oct 2026 · métricas 2.10.0
Todas las etiquetas
Etiqueta del catálogo
#tiktoken
Todos los repositorios del registro público que llevan esta etiqueta, procedente de sus topics de GitHub o de las palabras clave que publican sus registros de paquetes. La salud se mide con la misma metodología versionada que el resto del registro.
12 registros
crates.io · PyPI
ml-rust/splintr
A high-performance tokenizer (BPE, WordPiece, SentencePiece) built with Rust with Python bindings, focused on speed, safety, and resource optimization.
MIT16 sept 2026 · métricas 2.10.0
—
tryAGI/Tiktoken
High-performance .NET BPE tokenizer — up to 618 MiB/s, competitive with Rust. Zero-allocation counting, multilingual cache, o200k/cl100k/r50k/p50k encodings + HuggingFace tokenizer.json support.
MIT21 oct 2026 · métricas 2.10.0
npm
niieani/gpt-tokenizer
The fastest JavaScript BPE Tokenizer Encoder Decoder for OpenAI's GPT models (gpt-5, gpt-o*, gpt-4o, etc.). Port of OpenAI's tiktoken with additional features.
MIT18 sept 2026 · métricas 2.10.0
npm
johannschopplich/tokenx
📐 Fast token estimation with 95%+ average accuracy in a 2kB bundle
MIT15 sept 2026 · métricas 2.10.0
crates.io · npm
goliajp/rust-tiktoken
High-performance Rust tiktoken BPE tokenizer + WASM bindings (@goliapkg/tiktoken-wasm)
Apache-2.017 sept 2026 · métricas 2.10.0
PyPI · crates.io
marcelroed/gigatoken
Language model tokenization at GB/s
MIT12 sept 2026 · métricas 2.10.0
npm · Go
lancekrogers/tcount
Local Tokenizer/Counter
MIT11 sept 2026 · métricas 2.10.0
Go
ron2111/omnitoken
Pure-Go LLM tokenizer and tiktoken-compatible token counter for OpenAI BPE, WordPiece, SentencePiece, Gemini, Llama, Mistral, and Hugging Face adapters.
MIT5 sept 2026 · métricas 2.10.0
Packagist
mis3085/tiktoken-for-laravel
A tiktoken-php wrapper for Laravel
MIT12 sept 2026 · métricas 2.10.0
npm
siliconvalleyglobal/TokenSaveOS
El repositorio no publica descripción.
Licencia propia18 sept 2026 · métricas 2.10.0
Go
pkoukk/tiktoken-go
go version of tiktoken
MIT23 sept 2026 · métricas 2.10.0