PyPI
jagmarques/nexusquant
Training-free KV cache compression via E8 lattice VQ. 2-bit KV that preserves retrieval (30/30 NIAH vs TurboQuant 0/30). Calibration-free, 9 architectures validated.
Власна ліцензія16 лип. 2026 р. · метрики 2.10.0
Усі теги
Тег каталогу
#vllm
Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.
38 записів
PyPI · crates.io
theoddden/Terradev
An imperative command-line-interface for AI workload orchestration
Apache-2.023 серп. 2026 р. · метрики 2.10.0
Go
airiclenz/apogee
Terminal coding agent for local LLMs (llama.cpp, Ollama, vLLM) and any OpenAI-compatible API. OS-sandboxed autonomy, MCP, sessions. Go.
MIT21 серп. 2026 р. · метрики 2.10.0
PyPI
cdnwetzel/pxx
Local-first AI coding agent runtime — your models, fail-closed safety, evidence-gated self-improvement
MIT2 серп. 2026 р. · метрики 2.10.0
Go
spencerbull/Yokai
Terminal-first GPU fleet manager for deploying, monitoring, and managing vLLM, llama.cpp, and ComfyUI workloads.
MIT16 серп. 2026 р. · метрики 2.10.0
—
MekayelAnik/vllm-cpu
Wheels & Docker images for running vLLM on CPU-only systems, optimized for different CPU instruction sets
GPL-3.010 серп. 2026 р. · метрики 2.10.0
PyPI
llaa33219/outo-llms
Deploy local LLMs behind your own managed API server - vLLM or llama.cpp in isolated environments, API keys, workspaces, usage tracking
Apache-2.024 лип. 2026 р. · метрики 2.10.0
Go
hekmon/subtitles-ai-ocr
Read PGS (Bluray) and VobSub (DVD) image subtitles and extract their text using external Vision Language Models.
MIT28 серп. 2026 р. · метрики 2.10.0