crates.io · PyPI
ml-rust/splintr
A high-performance tokenizer (BPE, WordPiece, SentencePiece) built with Rust with Python bindings, focused on speed, safety, and resource optimization.
MIT16 sept 2026 · métricas 2.10.0
Todas las etiquetas
Etiqueta del catálogo
#sentencepiece
Todos los repositorios del registro público que llevan esta etiqueta, procedente de sus topics de GitHub o de las palabras clave que publican sus registros de paquetes. La salud se mide con la misma metodología versionada que el resto del registro.
5 registros
PyPI · crates.io
marcelroed/gigatoken
Language model tokenization at GB/s
MIT12 sept 2026 · métricas 2.10.0
npm · Go
lancekrogers/tcount
Local Tokenizer/Counter
MIT11 sept 2026 · métricas 2.10.0
Go
ron2111/omnitoken
Pure-Go LLM tokenizer and tiktoken-compatible token counter for OpenAI BPE, WordPiece, SentencePiece, Gemini, Llama, Mistral, and Hugging Face adapters.
MIT22 oct 2026 · métricas 2.10.0
crates.io
danieldk/sentencepiece
Rust binding for the sentencepiece library
Apache-2.013 sept 2026 · métricas 2.10.0