PyPI
vllm-project/speculators
A unified library for building, evaluating, and storing speculative decoding algorithms for LLM inference in vLLM
Apache-2.08 жовт. 2026 р. · метрики 2.10.0
Усі теги
Тег каталогу
#speculative-decoding
Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.
9 записів
npm
withcatai/node-llama-cpp
Run AI models locally on your machine with node.js bindings for llama.cpp. Enforce a JSON schema on the model output on the generation level
MIT27 серп. 2026 р. · метрики 2.10.0
crates.io · npm · PyPI
dphnAI/sonar
Large-scale LLM inference engine
AGPL-3.018 вер. 2026 р. · метрики 2.10.0
PyPI · npm
youssofal/MTPLX
3x faster speeds on MLX | Qwen 3.8 27B | Native MTP Speculative Decoding On Apple Silicon With No External Drafter.
Apache-2.015 вер. 2026 р. · метрики 2.10.0
PyPI
ARahim3/mlx-dspark
Up to 4× faster LLM decoding on Apple Silicon, lossless. Native MLX port of DeepSeek's DSpark & z-lab's DFlash speculative decoding — Gemma-4, Qwen3.8, Muse-Glimmer, Nemotron, LFM2.5, Ornith-1.0, ternary Bonsai-27B.
MIT19 жовт. 2026 р. · метрики 2.10.0
PyPI · crates.io
FedericoTs/quantprobe
Run a 110B on a 2016 PC with 16 GB RAM. Know your tok/s before you download. Placement beats budget: predicts speed + memory fit for any GGUF on your exact hardware, self-calibrates, emits the exact llama.cpp command — or 'quantprobe auto' does it all. Falsification-tested laws; misses published at full size. pip install quantprobe
MIT19 жовт. 2026 р. · метрики 2.10.0
PyPI
asher/gmlx
Local inference platform for K/IQ-quant GGUF models on Apple Silicon
Власна ліцензія25 вер. 2026 р. · метрики 2.10.0
npm
therealtimex/node-llama-cpp
Run AI models locally on your machine with node.js bindings for llama.cpp. Enforce a JSON schema on the model output on the generation level
MIT10 вер. 2026 р. · метрики 2.10.0
npm · crates.io · Maven
arusatech/llama-cpp-pro
Llama cpp + CapacitorJS support
MIT15 вер. 2026 р. · метрики 2.10.0