PyPI
jagmarques/nexusquant
Training-free KV cache compression via E8 lattice VQ. 2-bit KV that preserves retrieval (30/30 NIAH vs TurboQuant 0/30). Calibration-free, 9 architectures validated.
Eigene Lizenz16. Juli 2026 · Metriken 2.10.0
Alle Tags
Katalog-Tag
#vllm
Alle Repositories im öffentlichen Register, die dieses Tag tragen — aus ihren GitHub-Topics oder den von ihren Paket-Registries veröffentlichten Schlagwörtern. Die Gesundheit wird nach derselben versionierten Methodik gemessen wie im übrigen Register.
38 Einträge
PyPI · crates.io
theoddden/Terradev
An imperative command-line-interface for AI workload orchestration
Apache-2.023. Aug. 2026 · Metriken 2.10.0
Go
airiclenz/apogee
Terminal coding agent for local LLMs (llama.cpp, Ollama, vLLM) and any OpenAI-compatible API. OS-sandboxed autonomy, MCP, sessions. Go.
MIT21. Aug. 2026 · Metriken 2.10.0
PyPI
cdnwetzel/pxx
Local-first AI coding agent runtime — your models, fail-closed safety, evidence-gated self-improvement
MIT2. Aug. 2026 · Metriken 2.10.0
Go
spencerbull/Yokai
Terminal-first GPU fleet manager for deploying, monitoring, and managing vLLM, llama.cpp, and ComfyUI workloads.
MIT16. Aug. 2026 · Metriken 2.10.0
—
MekayelAnik/vllm-cpu
Wheels & Docker images for running vLLM on CPU-only systems, optimized for different CPU instruction sets
GPL-3.010. Aug. 2026 · Metriken 2.10.0
PyPI
llaa33219/outo-llms
Deploy local LLMs behind your own managed API server - vLLM or llama.cpp in isolated environments, API keys, workspaces, usage tracking
Apache-2.024. Juli 2026 · Metriken 2.10.0
Go
hekmon/subtitles-ai-ocr
Read PGS (Bluray) and VobSub (DVD) image subtitles and extract their text using external Vision Language Models.
MIT28. Aug. 2026 · Metriken 2.10.0