PyPI
PyThaiNLP/pythainlp
Thai natural language processing in Python
Apache-2.017 вер. 2026 р. · метрики 2.10.0
Усі теги
Тег каталогу
#tokenization
Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.
19 записів
npm
toon-format/toon
🎒 Token-Oriented Object Notation (TOON) – compact, human-readable serialization of JSON data for LLM prompts. TypeScript SDK, CLI, benchmarks.
MIT16 вер. 2026 р. · метрики 2.10.0
PyPI · npm
explosion/spaCy
💫 Industrial-strength Natural Language Processing (NLP) in Python
MIT16 вер. 2026 р. · метрики 2.10.0
Maven
Worklytics/psoxy
serverless ☁️ 🚀 , pseudonymizing proxy between Worklytics and your workplace 💼 SaaS data sources' APIs. Data Loss Prevention (DLP) 🛡️🔒 and compliance layer deployable to AWS Lambda or GCP Cloud Functions.
Власна ліцензія18 вер. 2026 р. · метрики 2.10.0
npm
johannschopplich/tokenx
📐 Fast token estimation with 95%+ average accuracy in a 2kB bundle
MIT15 вер. 2026 р. · метрики 2.10.0
PyPI · crates.io
marcelroed/gigatoken
Language model tokenization at GB/s
MIT12 вер. 2026 р. · метрики 2.10.0
crates.io · npm · PyPI
bio-rs/bio-rs
AI-ready biological data I/O, validation, and tokenization engine
Власна ліцензія8 вер. 2026 р. · метрики 2.10.0
NuGet
georg-jung/FastBertTokenizer
Fast and memory-efficient library for WordPiece tokenization as it is used by BERT.
MIT15 вер. 2026 р. · метрики 2.10.0
npm
privent-ai/n8n-nodes-privent
Open-source data protection framework for AI agent workflows in n8n. Detects, tokenizes, and reversibly anonymizes sensitive data before it reaches your models.
MIT14 вер. 2026 р. · метрики 2.10.0
Go
ron2111/omnitoken
Pure-Go LLM tokenizer and tiktoken-compatible token counter for OpenAI BPE, WordPiece, SentencePiece, Gemini, Llama, Mistral, and Hugging Face adapters.
MIT5 вер. 2026 р. · метрики 2.10.0
RubyGems
rosette-api/ruby
Babel Street Analytics Client Library for Ruby
Власна ліцензія6 жовт. 2026 р. · метрики 2.10.0
Go
shepard-labs/go-toon
Go implementation of Token-Oriented Object Notation (TOON)
MIT18 жовт. 2026 р. · метрики 2.10.0
Go
chadsr/ollamatokenizer
Ollama's internal tokenization as API endpoints.
MIT20 жовт. 2026 р. · метрики 2.10.0
NuGet
CharlesHunt/ToonDotNet
This is a conversion of the ToonFormat/Toon repo to C#
MIT15 вер. 2026 р. · метрики 2.10.0
Packagist
ParadoxLabs-Inc/authnetcim
Authorize.net CIM payments for Magento 2
Apache-2.018 вер. 2026 р. · метрики 2.10.0
Go
clipperhouse/uax29
A tokenizer based on Unicode text segmentation (UAX #29), for Go. Split graphemes, words, sentences.
MIT14 вер. 2026 р. · метрики 2.10.0
Packagist
ParadoxLabs-Inc/authnetcim-hyva-checkout
Use ParadoxLabs' Authorize.net CIM payments with Hyva Checkout
Apache-2.029 вер. 2026 р. · метрики 2.10.0
PyPI
OpenVoiceOS/quebra_frases
chunks strings into byte sized pieces
Apache-2.012 вер. 2026 р. · метрики 2.10.0
npm
diplodoc-platform/sentenizer
sentenizer — rule-based NLP library for sentence segmentation with russian language support
MIT18 вер. 2026 р. · метрики 2.10.0