Alle Tags
Katalog-Tag

#tokenization

Alle Repositories im öffentlichen Register, die dieses Tag tragen — aus ihren GitHub-Topics oder den von ihren Paket-Registries veröffentlichten Schlagwörtern. Die Gesundheit wird nach derselben versionierten Methodik gemessen wie im übrigen Register.

7 Einträge
Getaggt als „tokenization“Geordnet nach Gesundheitsindex
npm
71GutGesundheitsindex
toon-format/toon
🎒 Token-Oriented Object Notation (TOON) – Compact, human-readable, schema-aware JSON for LLM prompts. Spec, benchmarks, TypeScript SDK.
TypeScript★ 24.9K19. Juli 2026
MIT19. Juli 2026 · Metriken 1.13.0
PyPI · npm
69MittelGesundheitsindex
explosion/spaCy
💫 Industrial-strength Natural Language Processing (NLP) in Python
Python · MDX · Cython★ 33.7K↓ 22M/Monat17. Juli 2026
MIT17. Juli 2026 · Metriken 1.13.0
Go
58MittelGesundheitsindex
ron2111/omnitoken
Pure-Go LLM tokenizer and tiktoken-compatible token counter for OpenAI BPE, WordPiece, SentencePiece, Gemini, Llama, Mistral, and Hugging Face adapters.
Go★ 615. Juli 2026
MIT15. Juli 2026 · Metriken 1.13.0
Go
54MittelGesundheitsindex
chadsr/ollamatokenizer
Ollama's internal tokenization as API endpoints.
Go★ 1↓ 0/Monat14. Juli 2026
MIT14. Juli 2026 · Metriken 1.13.0
crates.io
53MittelGesundheitsindex
bio-rs/bio-rs
AI-ready biological data I/O, validation, and tokenization engine
Rust · Python★ 315. Juli 2026
Eigene Lizenz15. Juli 2026 · Metriken 1.13.0
PyPI · crates.io
50MittelGesundheitsindex
marcelroed/gigatoken
Language model tokenization at GB/s
Rust · Python★ 115↓ 2.741/Monat22. Juli 2026
MIT22. Juli 2026 · Metriken 1.13.0
PyPI
48GefährdetGesundheitsindex
OpenVoiceOS/quebra_frases
chunks strings into byte sized pieces
Python★ 121. Juli 2026
Apache-2.021. Juli 2026 · Metriken 1.13.0