Alle Tags
Katalog-Tag

#bpe

Alle Repositories im öffentlichen Register, die dieses Tag tragen — aus ihren GitHub-Topics oder den von ihren Paket-Registries veröffentlichten Schlagwörtern. Die Gesundheit wird nach derselben versionierten Methodik gemessen wie im übrigen Register.

11 Einträge
Getaggt als „bpe“Geordnet nach Gesundheitsindex
crates.io
95AußergewöhnlichGesundheitsindex
huggingface/tokenizers
💥 Fast State-of-the-Art Tokenizers optimized for Research and Production
Rust · Python★ 11K↓ 3.8M/Monat27. Aug. 2026
Apache-2.027. Aug. 2026 · Metriken 2.10.0
crates.io
88ExzellentGesundheitsindex
github/rust-gems
A collection of rust algorithms and data structures
Rust★ 130↓ 76.7K/Monat29. Aug. 2026
MIT29. Aug. 2026 · Metriken 2.10.0
—
78GutGesundheitsindex
tryAGI/Tiktoken
High-performance .NET BPE tokenizer — up to 618 MiB/s, competitive with Rust. Zero-allocation counting, multilingual cache, o200k/cl100k/r50k/p50k encodings + HuggingFace tokenizer.json support.
C#★ 882. Sept. 2026
MIT2. Sept. 2026 · Metriken 2.10.0
crates.io · PyPI
77GutGesundheitsindex
ml-rust/splintr
A high-performance tokenizer (BPE + SentencePiece) built with Rust with Python bindings, focused on speed, safety, and resource optimization.
Rust · Python★ 60↓ 5.657/Monat5. Aug. 2026
MIT5. Aug. 2026 · Metriken 2.10.0
crates.io · npm
69GutGesundheitsindex
goliajp/rust-tiktoken
High-performance Rust tiktoken BPE tokenizer + WASM bindings (@goliapkg/tiktoken-wasm)
Rust · TypeScript★ 6↓ 7.225/Monat8. Aug. 2026
Apache-2.08. Aug. 2026 · Metriken 2.10.0
npm · Go
60MittelGesundheitsindex
lancekrogers/tcount
Local Tokenizer/Counter
Go★ 4↓ 427/Monat22. Aug. 2026
MIT22. Aug. 2026 · Metriken 2.10.0
Go
57MittelGesundheitsindex
ron2111/omnitoken
Pure-Go LLM tokenizer and tiktoken-compatible token counter for OpenAI BPE, WordPiece, SentencePiece, Gemini, Llama, Mistral, and Hugging Face adapters.
Go★ 65. Sept. 2026
MIT5. Sept. 2026 · Metriken 2.10.0
Go · npm
56MittelGesundheitsindex
lancekrogers/go-token-counter
Local-first LLM token counter: exact OpenAI BPE, Claude/Gemini estimates, context-window usage. Zero network. CLI + Go library.
Go★ 218. Juli 2026
MIT18. Juli 2026 · Metriken 2.10.0
npm
54MittelGesundheitsindex
SeanHogg/builderforce-memory
A framework for giving any AI agent persistent, browser-trainable SSM memory — Mamba models, swappable LLM bridges, and online distillation. The hippocampus behind BuilderForce.ai.
TypeScript★ 2↓ 7.198/Monat3. Aug. 2026
Keine Lizenz3. Aug. 2026 · Metriken 2.10.0
PyPI · crates.io
50MittelGesundheitsindex
marcelroed/gigatoken
Language model tokenization at GB/s
Rust · Python★ 115↓ 2.741/Monat22. Juli 2026
MIT22. Juli 2026 · Metriken 2.10.0
npm
11KritischGesundheitsindex
plurnk/plurnk-mimetypes-tokenizers
Bundled LLM tokenizer vocabularies for @plurnk/plurnk-mimetypes' tokenizer seam — exact token counting for window math
JavaScript★ 0↓ 2.529/Monat15. Juli 2026
MIT15. Juli 2026 · Metriken 2.10.0