Todas las etiquetas
Etiqueta del catálogo

#token-counting

Todos los repositorios del registro público que llevan esta etiqueta, procedente de sus topics de GitHub o de las palabras clave que publican sus registros de paquetes. La salud se mide con la misma metodología versionada que el resto del registro.

2 registros
Con la etiqueta «token-counting»Ordenado por índice de salud
Go
58Moderadoíndice de salud
ron2111/omnitoken
Pure-Go LLM tokenizer and tiktoken-compatible token counter for OpenAI BPE, WordPiece, SentencePiece, Gemini, Llama, Mistral, and Hugging Face adapters.
Go★ 615 jul 2026
MIT15 jul 2026 · métricas 1.13.0
npm
13Críticoíndice de salud
plurnk/plurnk-mimetypes-tokenizers
Bundled LLM tokenizer vocabularies for @plurnk/plurnk-mimetypes' tokenizer seam — exact token counting for window math
JavaScript★ 0↓ 2529/mes15 jul 2026
MIT15 jul 2026 · métricas 1.13.0