crates.io
huggingface/tokenizers
💥 Fast State-of-the-Art Tokenizers optimized for Research and Production
Apache-2.027 серп. 2026 р. · метрики 2.10.0
Усі теги
Тег каталогу
#tokenizer
Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.
54 записи
crates.io
maciejhirsz/logos
Create ridiculously fast Lexers
Apache-2.022 серп. 2026 р. · метрики 2.10.0
PyPI
andialbrecht/sqlparse
A non-validating SQL parser module for Python
BSD-3-Clause28 серп. 2026 р. · метрики 2.10.0
npm
csstools/postcss-plugins
PostCSS Tools and Plugins
MIT-04 серп. 2026 р. · метрики 2.10.0
crates.io
github/rust-gems
A collection of rust algorithms and data structures
MIT29 серп. 2026 р. · метрики 2.10.0
crates.io · npm · Packagist +2
lindera/lindera
A multilingual morphological analysis library.
MIT5 вер. 2026 р. · метрики 2.10.0
npm
eslint/csstree
A tool set for CSS including fast detailed parser, walker, generator and lexer based on W3C specs and browser implementations
MIT2 серп. 2026 р. · метрики 2.10.0
crates.io
meilisearch/charabia
Library used by Meilisearch to tokenize queries and documents
MIT14 серп. 2026 р. · метрики 2.10.0
npm
Chevrotain/chevrotain
Parser Building Toolkit for JavaScript
Apache-2.013 серп. 2026 р. · метрики 2.10.0
—
tryAGI/Tiktoken
High-performance .NET BPE tokenizer — up to 618 MiB/s, competitive with Rust. Zero-allocation counting, multilingual cache, o200k/cl100k/r50k/p50k encodings + HuggingFace tokenizer.json support.
MIT2 вер. 2026 р. · метрики 2.10.0
PyPI · npm
SonAIengine/graph-tool-call
Graph-based tool retrieval for LLM agents — 248 tools → 82% accuracy, 79% fewer tokens. Zero dependencies. OpenAPI / MCP / LangChain.
MIT1 серп. 2026 р. · метрики 2.10.0
crates.io · PyPI
ml-rust/splintr
A high-performance tokenizer (BPE + SentencePiece) built with Rust with Python bindings, focused on speed, safety, and resource optimization.
MIT5 серп. 2026 р. · метрики 2.10.0
crates.io
ai-dynamo/frontend-crates
Опис репозиторію не опубліковано.
Apache-2.022 серп. 2026 р. · метрики 2.10.0
crates.io · npm
goliajp/rust-tiktoken
High-performance Rust tiktoken BPE tokenizer + WASM bindings (@goliapkg/tiktoken-wasm)
Apache-2.08 серп. 2026 р. · метрики 2.10.0
NuGet
ProwlEngine/Anthology
The collection of libraries that power the Prowl game engine.
MIT24 лип. 2026 р. · метрики 2.10.0
crates.io
lindera/lindera-tantivy
Lindera tokenizer for Tantivy.
MIT8 серп. 2026 р. · метрики 2.10.0
Packagist
loupe-php/matcher
A library to highlight and crop terms and context within strings such as search results
MIT17 лип. 2026 р. · метрики 2.10.0
Packagist
php-fig-rectified/psr2r-sniffer
A PSR-2-R code sniffer and code-style auto-correction-tool - including many useful additions
MIT30 лип. 2026 р. · метрики 2.10.0
npm
projectwallace/css-parser
High-performance CSS parser optimized for static analysis and formatting
Без ліцензії25 лип. 2026 р. · метрики 2.10.0
Go
bzick/tokenizer
Tokenizer (lexer) for golang
MIT5 вер. 2026 р. · метрики 2.10.0
npm
kurajs/kura
Kura — the knowledgebase for humans and agents. Agent-native docs infrastructure, built on June.
MIT31 лип. 2026 р. · метрики 2.10.0
npm
webpro-nl/unbash
Fast 0-deps bash parser written in TypeScript
ISC27 серп. 2026 р. · метрики 2.10.0
Packagist
mck89/peast
JavaScript parser written in PHP that generates AST from your code according to ECMAScript specification
BSD-3-Clause21 лип. 2026 р. · метрики 2.10.0
npm
csstree/csstree
A tool set for CSS including fast detailed parser, walker, generator and lexer based on W3C specs and browser implementations
MIT4 серп. 2026 р. · метрики 2.10.0
npm · Go
lancekrogers/tcount
Local Tokenizer/Counter
MIT22 серп. 2026 р. · метрики 2.10.0
crates.io
sile/erl_tokenize
An Erlang source code tokenizer written in Rust.
Apache-2.022 лип. 2026 р. · метрики 2.10.0
PyPI
bitextor/bitextor
Bitextor generates translation memories from multilingual websites
GPL-3.021 лип. 2026 р. · метрики 2.10.0
Go
clipperhouse/uax29
A tokenizer based on Unicode text segmentation (UAX #29), for Go. Split graphemes, words, sentences.
MIT28 лип. 2026 р. · метрики 2.10.0
npm · crates.io · PyPI
ongjin/garu
초경량 한국어 형태소 분석기 — 1MB 모델로 브라우저에서 실행(WASM). Ultra-lightweight Korean morphological analyzer in the browser. npm: garu-ko
MIT23 лип. 2026 р. · метрики 2.10.0
Packagist
theseer/tokenizer
A small library for converting tokenized PHP source code into XML (and potentially other formats)
Власна ліцензія27 серп. 2026 р. · метрики 2.10.0