Усі теги
Тег каталогу

#wordpiece

Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.

4 записи
З тегом «wordpiece»Упорядковано за індексом здоров'я
crates.io
95Винятковийіндекс здоров'я
huggingface/tokenizers
💥 Fast State-of-the-Art Tokenizers optimized for Research and Production
Rust · Python★ 11K↓ 3.8M/міс27 серп. 2026 р.
Apache-2.027 серп. 2026 р. · метрики 2.10.0
crates.io · PyPI
78Добрийіндекс здоров'я
ml-rust/splintr
A high-performance tokenizer (BPE, WordPiece, SentencePiece) built with Rust with Python bindings, focused on speed, safety, and resource optimization.
Rust · Python★ 60↓ 5 850/міс16 вер. 2026 р.
MIT16 вер. 2026 р. · метрики 2.10.0
NuGet
62Помірнийіндекс здоров'я
georg-jung/FastBertTokenizer
Fast and memory-efficient library for WordPiece tokenization as it is used by BERT.
C#★ 5415 вер. 2026 р.
MIT15 вер. 2026 р. · метрики 2.10.0
Go
57Помірнийіндекс здоров'я
ron2111/omnitoken
Pure-Go LLM tokenizer and tiktoken-compatible token counter for OpenAI BPE, WordPiece, SentencePiece, Gemini, Llama, Mistral, and Hugging Face adapters.
Go★ 65 вер. 2026 р.
MIT5 вер. 2026 р. · метрики 2.10.0