Усі теги
Тег каталогу

#tiktoken

Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.

12 записів
З тегом «tiktoken»Упорядковано за індексом здоров'я
crates.io
78Добрийіндекс здоров'я
ai-dynamo/frontend-crates
Опис репозиторію не опубліковано.
Rust · Python★ 24↓ 812.4K/міс20 жовт. 2026 р.
Apache-2.020 жовт. 2026 р. · метрики 2.10.0
crates.io · PyPI
78Добрийіндекс здоров'я
ml-rust/splintr
A high-performance tokenizer (BPE, WordPiece, SentencePiece) built with Rust with Python bindings, focused on speed, safety, and resource optimization.
Rust · Python★ 60↓ 5 850/міс16 вер. 2026 р.
MIT16 вер. 2026 р. · метрики 2.10.0
—
78Добрийіндекс здоров'я
tryAGI/Tiktoken
High-performance .NET BPE tokenizer — up to 618 MiB/s, competitive with Rust. Zero-allocation counting, multilingual cache, o200k/cl100k/r50k/p50k encodings + HuggingFace tokenizer.json support.
C#★ 9221 жовт. 2026 р.
MIT21 жовт. 2026 р. · метрики 2.10.0
npm
77Добрийіндекс здоров'я
niieani/gpt-tokenizer
The fastest JavaScript BPE Tokenizer Encoder Decoder for OpenAI's GPT models (gpt-5, gpt-o*, gpt-4o, etc.). Port of OpenAI's tiktoken with additional features.
TypeScript★ 845↓ 6.1M/міс18 вер. 2026 р.
MIT18 вер. 2026 р. · метрики 2.10.0
npm
73Добрийіндекс здоров'я
johannschopplich/tokenx
📐 Fast token estimation with 95%+ average accuracy in a 2kB bundle
TypeScript★ 177↓ 6.2M/міс15 вер. 2026 р.
MIT15 вер. 2026 р. · метрики 2.10.0
crates.io · npm
67Добрийіндекс здоров'я
goliajp/rust-tiktoken
High-performance Rust tiktoken BPE tokenizer + WASM bindings (@goliapkg/tiktoken-wasm)
Rust · TypeScript★ 7↓ 11.6K/міс17 вер. 2026 р.
Apache-2.017 вер. 2026 р. · метрики 2.10.0
PyPI · crates.io
63Помірнийіндекс здоров'я
marcelroed/gigatoken
Language model tokenization at GB/s
Rust · Python★ 4 093↓ 261.6K/міс12 вер. 2026 р.
MIT12 вер. 2026 р. · метрики 2.10.0
npm · Go
62Помірнийіндекс здоров'я
lancekrogers/tcount
Local Tokenizer/Counter
Go★ 6↓ 74/міс11 вер. 2026 р.
MIT11 вер. 2026 р. · метрики 2.10.0
Go
54Помірнийіндекс здоров'я
ron2111/omnitoken
Pure-Go LLM tokenizer and tiktoken-compatible token counter for OpenAI BPE, WordPiece, SentencePiece, Gemini, Llama, Mistral, and Hugging Face adapters.
Go★ 722 жовт. 2026 р.
MIT22 жовт. 2026 р. · метрики 2.10.0
Packagist
51Помірнийіндекс здоров'я
mis3085/tiktoken-for-laravel
A tiktoken-php wrapper for Laravel
PHP★ 27↓ 7 296/міс12 вер. 2026 р.
MIT12 вер. 2026 р. · метрики 2.10.0
npm
50Помірнийіндекс здоров'я
siliconvalleyglobal/TokenSaveOS
Опис репозиторію не опубліковано.
TypeScript · JavaScript★ 2↓ 2 563/міс18 вер. 2026 р.
Власна ліцензія18 вер. 2026 р. · метрики 2.10.0
Go
48Слабкийіндекс здоров'я
pkoukk/tiktoken-go
go version of tiktoken
Go · Python★ 95723 вер. 2026 р.
MIT23 вер. 2026 р. · метрики 2.10.0