全部标签
目录标签

#tokenize

公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。

13 条记录
标签为“tokenize”按健康指数排序
npm
75良好健康指数
flex-development/mark
a specification for building syntax-aware parsers, compilers, and text processing systems
TypeScript★ 1↓ 2,454/月2026年9月18日
BSD-3-Clause2026年9月18日 · 指标 2.10.0
npm
75良好健康指数
micromark/micromark
small, safe, and great commonmark (optionally gfm, mdx) compliant markdown parser
JavaScript★ 2,220↓ 1.2B/月2026年9月16日
MIT2026年9月16日 · 指标 2.10.0
PyPI
73良好健康指数
gristlabs/asttokens
Annotate Python AST trees with source text and token information
Python★ 1962026年9月12日
Apache-2.02026年9月12日 · 指标 2.10.0
Packagist
63中等健康指数
loupe-php/matcher
A library to highlight and crop terms and context within strings such as search results
PHP★ 10↓ 26.3K/月2026年9月10日
MIT2026年9月10日 · 指标 2.10.0
npm
56中等健康指数
syntax-tree/hast-util-from-html
hast utility to parse from HTML
JavaScript★ 41↓ 50.5M/月2026年9月15日
MIT2026年9月15日 · 指标 2.10.0
npm
48薄弱健康指数
webpro/ANSI.tools
https://ansi.tools
TypeScript★ 41↓ 18.1K/月2026年10月22日
无许可证2026年10月22日 · 指标 2.10.0
npm
47薄弱健康指数
syntax-tree/esast-util-from-js
estree (and esast) utility to parse from JavaScript
JavaScript★ 14↓ 29.4M/月2026年9月15日
MIT2026年9月15日 · 指标 2.10.0
PyPI
44薄弱健康指数
OpenVoiceOS/quebra_frases
chunks strings into byte sized pieces
Python★ 12026年9月12日
Apache-2.02026年9月12日 · 指标 2.10.0
npm
38薄弱健康指数
here-be/snapdragon
snapdragon is an extremely pluggable, powerful and easy-to-use parser-renderer factory.
JavaScript★ 224↓ 36.6M/月2026年9月15日
MIT2026年9月15日 · 指标 2.10.0
crates.io
31存在风险健康指数
stevedonovan/scanlex
A simple lexical scanner in Rust
Rust★ 12↓ 222.8K/月2026年9月13日
MIT2026年9月13日 · 指标 2.10.0
PyPI
24存在风险健康指数
myint/untokenize
Transforms tokens into original source code (while preserving whitespace)
Python★ 92026年9月15日
MIT2026年9月15日 · 指标 2.10.0
npm
4危急健康指数
qatrehai/persian-normalize
Normalize Persian and Arabic-script text — ZWNJ, Arabic yeh/kaf, three digit sets, diacritics. Zero dependencies, TypeScript types.
JavaScript★ 0↓ 211.8K/月2026年10月18日
MIT2026年10月18日 · 指标 2.10.0