Katalog-Tag

#wordpiece

Alle Repositories im öffentlichen Register, die dieses Tag tragen — aus ihren GitHub-Topics oder den von ihren Paket-Registries veröffentlichten Schlagwörtern. Die Gesundheit wird nach derselben versionierten Methodik gemessen wie im übrigen Register.

4 Einträge

Getaggt als „wordpiece“Geordnet nach Gesundheitsindex

crates.io

95AußergewöhnlichGesundheitsindex

huggingface/tokenizers

💥 Fast State-of-the-Art Tokenizers optimized for Research and Production

Rust · Python★ 11K↓ 3.8M/Monat27. Aug. 2026

Apache-2.027. Aug. 2026 · Metriken 2.10.0

crates.io · PyPI

78GutGesundheitsindex

ml-rust/splintr

A high-performance tokenizer (BPE, WordPiece, SentencePiece) built with Rust with Python bindings, focused on speed, safety, and resource optimization.

Rust · Python★ 60↓ 5.850/Monat16. Sept. 2026

MIT16. Sept. 2026 · Metriken 2.10.0

NuGet

62MittelGesundheitsindex

georg-jung/FastBertTokenizer

Fast and memory-efficient library for WordPiece tokenization as it is used by BERT.

C#★ 5415. Sept. 2026

MIT15. Sept. 2026 · Metriken 2.10.0

57MittelGesundheitsindex

ron2111/omnitoken

Pure-Go LLM tokenizer and tiktoken-compatible token counter for OpenAI BPE, WordPiece, SentencePiece, Gemini, Llama, Mistral, and Hugging Face adapters.

Go★ 65. Sept. 2026

MIT5. Sept. 2026 · Metriken 2.10.0