Усі теги
Тег каталогу

#tokenize

Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.

13 записів
З тегом «tokenize»Упорядковано за індексом здоров'я
npm
75Добрийіндекс здоров'я
flex-development/mark
a specification for building syntax-aware parsers, compilers, and text processing systems
TypeScript★ 1↓ 2 454/міс18 вер. 2026 р.
BSD-3-Clause18 вер. 2026 р. · метрики 2.10.0
npm
75Добрийіндекс здоров'я
micromark/micromark
small, safe, and great commonmark (optionally gfm, mdx) compliant markdown parser
JavaScript★ 2 220↓ 1.2B/міс16 вер. 2026 р.
MIT16 вер. 2026 р. · метрики 2.10.0
PyPI
73Добрийіндекс здоров'я
gristlabs/asttokens
Annotate Python AST trees with source text and token information
Python★ 19612 вер. 2026 р.
Apache-2.012 вер. 2026 р. · метрики 2.10.0
npm
65Добрийіндекс здоров'я
syntax-tree/mdast-util-from-markdown
mdast utility to parse markdown
JavaScript★ 290↓ 209M/міс16 вер. 2026 р.
MIT16 вер. 2026 р. · метрики 2.10.0
Packagist
63Помірнийіндекс здоров'я
loupe-php/matcher
A library to highlight and crop terms and context within strings such as search results
PHP★ 10↓ 26.3K/міс10 вер. 2026 р.
MIT10 вер. 2026 р. · метрики 2.10.0
npm
56Помірнийіндекс здоров'я
syntax-tree/hast-util-from-html
hast utility to parse from HTML
JavaScript★ 41↓ 50.5M/міс15 вер. 2026 р.
MIT15 вер. 2026 р. · метрики 2.10.0
npm
48Слабкийіндекс здоров'я
webpro/ANSI.tools
https://ansi.tools
TypeScript★ 41↓ 18.1K/міс22 жовт. 2026 р.
Без ліцензії22 жовт. 2026 р. · метрики 2.10.0
npm
47Слабкийіндекс здоров'я
syntax-tree/esast-util-from-js
estree (and esast) utility to parse from JavaScript
JavaScript★ 14↓ 29.4M/міс15 вер. 2026 р.
MIT15 вер. 2026 р. · метрики 2.10.0
PyPI
44Слабкийіндекс здоров'я
OpenVoiceOS/quebra_frases
chunks strings into byte sized pieces
Python★ 112 вер. 2026 р.
Apache-2.012 вер. 2026 р. · метрики 2.10.0
npm
38Слабкийіндекс здоров'я
here-be/snapdragon
snapdragon is an extremely pluggable, powerful and easy-to-use parser-renderer factory.
JavaScript★ 224↓ 36.6M/міс15 вер. 2026 р.
MIT15 вер. 2026 р. · метрики 2.10.0
crates.io
31У зоні ризикуіндекс здоров'я
stevedonovan/scanlex
A simple lexical scanner in Rust
Rust★ 12↓ 222.8K/міс13 вер. 2026 р.
MIT13 вер. 2026 р. · метрики 2.10.0
PyPI
24У зоні ризикуіндекс здоров'я
myint/untokenize
Transforms tokens into original source code (while preserving whitespace)
Python★ 915 вер. 2026 р.
MIT15 вер. 2026 р. · метрики 2.10.0
npm
4Критичнийіндекс здоров'я
qatrehai/persian-normalize
Normalize Persian and Arabic-script text — ZWNJ, Arabic yeh/kaf, three digit sets, diacritics. Zero dependencies, TypeScript types.
JavaScript★ 0↓ 211.8K/міс18 жовт. 2026 р.
MIT18 жовт. 2026 р. · метрики 2.10.0