crates.io
huggingface/tokenizers
💥 Fast State-of-the-Art Tokenizers optimized for Research and Production
Apache-2.02026年8月27日 · 指标 2.10.0
全部标签
目录标签
#wordpiece
公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。
4 条记录
crates.io · PyPI
ml-rust/splintr
A high-performance tokenizer (BPE, WordPiece, SentencePiece) built with Rust with Python bindings, focused on speed, safety, and resource optimization.
MIT2026年9月16日 · 指标 2.10.0
NuGet
georg-jung/FastBertTokenizer
Fast and memory-efficient library for WordPiece tokenization as it is used by BERT.
MIT2026年9月15日 · 指标 2.10.0
Go
ron2111/omnitoken
Pure-Go LLM tokenizer and tiktoken-compatible token counter for OpenAI BPE, WordPiece, SentencePiece, Gemini, Llama, Mistral, and Hugging Face adapters.
MIT2026年10月22日 · 指标 2.10.0