Alle Tags
Katalog-Tag

#tokenize

Alle Repositories im öffentlichen Register, die dieses Tag tragen — aus ihren GitHub-Topics oder den von ihren Paket-Registries veröffentlichten Schlagwörtern. Die Gesundheit wird nach derselben versionierten Methodik gemessen wie im übrigen Register.

12 Einträge
Getaggt als „tokenize“Geordnet nach Gesundheitsindex
npm
75GutGesundheitsindex
flex-development/mark
a specification for building syntax-aware parsers, compilers, and text processing systems
TypeScript★ 1↓ 2.454/Monat18. Sept. 2026
BSD-3-Clause18. Sept. 2026 · Metriken 2.10.0
npm
75GutGesundheitsindex
micromark/micromark
small, safe, and great commonmark (optionally gfm, mdx) compliant markdown parser
JavaScript★ 2.220↓ 1.2B/Monat16. Sept. 2026
MIT16. Sept. 2026 · Metriken 2.10.0
PyPI
73GutGesundheitsindex
gristlabs/asttokens
Annotate Python AST trees with source text and token information
Python★ 19612. Sept. 2026
Apache-2.012. Sept. 2026 · Metriken 2.10.0
Packagist
63MittelGesundheitsindex
loupe-php/matcher
A library to highlight and crop terms and context within strings such as search results
PHP★ 10↓ 26.3K/Monat10. Sept. 2026
MIT10. Sept. 2026 · Metriken 2.10.0
npm
56MittelGesundheitsindex
syntax-tree/hast-util-from-html
hast utility to parse from HTML
JavaScript★ 41↓ 50.5M/Monat15. Sept. 2026
MIT15. Sept. 2026 · Metriken 2.10.0
npm
47SchwachGesundheitsindex
syntax-tree/esast-util-from-js
estree (and esast) utility to parse from JavaScript
JavaScript★ 14↓ 29.4M/Monat15. Sept. 2026
MIT15. Sept. 2026 · Metriken 2.10.0
PyPI
44SchwachGesundheitsindex
OpenVoiceOS/quebra_frases
chunks strings into byte sized pieces
Python★ 112. Sept. 2026
Apache-2.012. Sept. 2026 · Metriken 2.10.0
npm
38SchwachGesundheitsindex
here-be/snapdragon
snapdragon is an extremely pluggable, powerful and easy-to-use parser-renderer factory.
JavaScript★ 224↓ 36.6M/Monat15. Sept. 2026
MIT15. Sept. 2026 · Metriken 2.10.0
crates.io
31GefährdetGesundheitsindex
stevedonovan/scanlex
A simple lexical scanner in Rust
Rust★ 12↓ 222.8K/Monat13. Sept. 2026
MIT13. Sept. 2026 · Metriken 2.10.0
PyPI
24GefährdetGesundheitsindex
myint/untokenize
Transforms tokens into original source code (while preserving whitespace)
Python★ 915. Sept. 2026
MIT15. Sept. 2026 · Metriken 2.10.0
npm
4KritischGesundheitsindex
qatrehai/persian-normalize
Normalize Persian and Arabic-script text — ZWNJ, Arabic yeh/kaf, three digit sets, diacritics. Zero dependencies, TypeScript types.
JavaScript★ 0↓ 211.8K/Monat18. Okt. 2026
MIT18. Okt. 2026 · Metriken 2.10.0