Усі теги
Тег каталогу

#sentencepiece

Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.

5 записів
З тегом «sentencepiece»Упорядковано за індексом здоров'я
Go
58Помірнийіндекс здоров'я
ron2111/omnitoken
Pure-Go LLM tokenizer and tiktoken-compatible token counter for OpenAI BPE, WordPiece, SentencePiece, Gemini, Llama, Mistral, and Hugging Face adapters.
Go★ 615 лип. 2026 р.
MIT15 лип. 2026 р. · метрики 1.13.0
Go · npm
55Помірнийіндекс здоров'я
lancekrogers/tcount
Local-first LLM token counter: exact OpenAI BPE, Claude/Gemini estimates, context-window usage. Zero network. CLI + Go library.
Go★ 2↓ 19/міс13 лип. 2026 р.
MIT13 лип. 2026 р. · метрики 1.13.0
Go · npm
54Помірнийіндекс здоров'я
lancekrogers/go-token-counter
Local-first LLM token counter: exact OpenAI BPE, Claude/Gemini estimates, context-window usage. Zero network. CLI + Go library.
Go★ 218 лип. 2026 р.
MIT18 лип. 2026 р. · метрики 1.13.0
PyPI · crates.io
50Помірнийіндекс здоров'я
marcelroed/gigatoken
Language model tokenization at GB/s
Rust · Python★ 115↓ 2 741/міс22 лип. 2026 р.
MIT22 лип. 2026 р. · метрики 1.13.0
npm
13Критичнийіндекс здоров'я
plurnk/plurnk-mimetypes-tokenizers
Bundled LLM tokenizer vocabularies for @plurnk/plurnk-mimetypes' tokenizer seam — exact token counting for window math
JavaScript★ 0↓ 2 529/міс15 лип. 2026 р.
MIT15 лип. 2026 р. · метрики 1.13.0