Todas las etiquetas
Etiqueta del catálogo

#wordpiece

Todos los repositorios del registro público que llevan esta etiqueta, procedente de sus topics de GitHub o de las palabras clave que publican sus registros de paquetes. La salud se mide con la misma metodología versionada que el resto del registro.

3 registros
Con la etiqueta «wordpiece»Ordenado por índice de salud
crates.io
95Excepcionalíndice de salud
huggingface/tokenizers
💥 Fast State-of-the-Art Tokenizers optimized for Research and Production
Rust · Python★ 11K↓ 3.8M/mes27 ago 2026
Apache-2.027 ago 2026 · métricas 2.10.0
crates.io · PyPI
77Buenoíndice de salud
ml-rust/splintr
A high-performance tokenizer (BPE + SentencePiece) built with Rust with Python bindings, focused on speed, safety, and resource optimization.
Rust · Python★ 60↓ 5657/mes5 ago 2026
MIT5 ago 2026 · métricas 2.10.0
Go
57Moderadoíndice de salud
ron2111/omnitoken
Pure-Go LLM tokenizer and tiktoken-compatible token counter for OpenAI BPE, WordPiece, SentencePiece, Gemini, Llama, Mistral, and Hugging Face adapters.
Go★ 65 sept 2026
MIT5 sept 2026 · métricas 2.10.0