PyPI
PyThaiNLP/pythainlp
Thai natural language processing in Python
Apache-2.02026年8月8日 · 指标 2.10.0
全部标签
目录标签
#tokenization
公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。
10 条记录
npm
toon-format/toon
🎒 Token-Oriented Object Notation (TOON) – compact, human-readable serialization of JSON data for LLM prompts. TypeScript SDK, CLI, benchmarks.
MIT2026年8月5日 · 指标 2.10.0
PyPI · npm
explosion/spaCy
💫 Industrial-strength Natural Language Processing (NLP) in Python
MIT2026年8月5日 · 指标 2.10.0
Go
clipperhouse/uax29
A tokenizer based on Unicode text segmentation (UAX #29), for Go. Split graphemes, words, sentences.
MIT2026年7月28日 · 指标 2.10.0
npm
privent-ai/n8n-nodes-privent
Open-source data protection framework for AI agent workflows in n8n. Detects, tokenizes, and reversibly anonymizes sensitive data before it reaches your models.
MIT2026年7月27日 · 指标 2.10.0
Go
chadsr/ollamatokenizer
Ollama's internal tokenization as API endpoints.
MIT2026年8月23日 · 指标 2.10.0
Go
ron2111/omnitoken
Pure-Go LLM tokenizer and tiktoken-compatible token counter for OpenAI BPE, WordPiece, SentencePiece, Gemini, Llama, Mistral, and Hugging Face adapters.
MIT2026年9月5日 · 指标 2.10.0
crates.io
bio-rs/bio-rs
AI-ready biological data I/O, validation, and tokenization engine
自定义许可证2026年7月15日 · 指标 2.10.0
PyPI · crates.io
marcelroed/gigatoken
Language model tokenization at GB/s
MIT2026年7月22日 · 指标 2.10.0
PyPI
OpenVoiceOS/quebra_frases
chunks strings into byte sized pieces
Apache-2.02026年7月21日 · 指标 2.10.0