Усі теги
Тег каталогу

#tokenizers

Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.

1 запис
З тегом «tokenizers»Упорядковано за індексом здоров'я
PyPI · crates.io
50Помірнийіндекс здоров'я
marcelroed/gigatoken
Language model tokenization at GB/s
Rust · Python★ 115↓ 2 741/міс22 лип. 2026 р.
MIT22 лип. 2026 р. · метрики 1.13.0