crates.io · PyPI
ml-rust/splintr
A high-performance tokenizer (BPE + SentencePiece) built with Rust with Python bindings, focused on speed, safety, and resource optimization.
MIT5. Aug. 2026 · Metriken 2.10.0
Alle Tags
Katalog-Tag
#sentencepiece
Alle Repositories im öffentlichen Register, die dieses Tag tragen — aus ihren GitHub-Topics oder den von ihren Paket-Registries veröffentlichten Schlagwörtern. Die Gesundheit wird nach derselben versionierten Methodik gemessen wie im übrigen Register.
7 Einträge
npm · Go
lancekrogers/tcount
Local Tokenizer/Counter
MIT22. Aug. 2026 · Metriken 2.10.0
Go
ron2111/omnitoken
Pure-Go LLM tokenizer and tiktoken-compatible token counter for OpenAI BPE, WordPiece, SentencePiece, Gemini, Llama, Mistral, and Hugging Face adapters.
MIT5. Sept. 2026 · Metriken 2.10.0
Go · npm
lancekrogers/go-token-counter
Local-first LLM token counter: exact OpenAI BPE, Claude/Gemini estimates, context-window usage. Zero network. CLI + Go library.
MIT18. Juli 2026 · Metriken 2.10.0
crates.io
danieldk/sentencepiece
Rust binding for the sentencepiece library
Apache-2.025. Juli 2026 · Metriken 2.10.0
PyPI · crates.io
marcelroed/gigatoken
Language model tokenization at GB/s
MIT22. Juli 2026 · Metriken 2.10.0
npm
plurnk/plurnk-mimetypes-tokenizers
Bundled LLM tokenizer vocabularies for @plurnk/plurnk-mimetypes' tokenizer seam — exact token counting for window math
MIT15. Juli 2026 · Metriken 2.10.0