Alle Tags
Katalog-Tag

#kv-cache

Alle Repositories im öffentlichen Register, die dieses Tag tragen — aus ihren GitHub-Topics oder den von ihren Paket-Registries veröffentlichten Schlagwörtern. Die Gesundheit wird nach derselben versionierten Methodik gemessen wie im übrigen Register.

5 Einträge
Getaggt als „kv-cache“Geordnet nach Gesundheitsindex
PyPI
63MittelGesundheitsindex
varjoranta/turboquant-vllm
TurboQuant+ KV cache compression for vLLM. 3.8x smaller KV cache, same conversation quality. Fused CUDA kernels with automatic PyTorch fallback.
Python · C++ · Cuda★ 76↓ 960/Monat22. Juli 2026
MIT22. Juli 2026 · Metriken 1.13.0
PyPI
60MittelGesundheitsindex
jagmarques/nexusquant
Training-free KV cache compression via E8 lattice VQ. 2-bit KV that preserves retrieval (30/30 NIAH vs TurboQuant 0/30). Calibration-free, 9 architectures validated.
Python★ 2516. Juli 2026
Eigene Lizenz16. Juli 2026 · Metriken 1.13.0
Go · PyPI
59MittelGesundheitsindex
anthony-chaudhary/fak
fak — the Fused Agent Kernel: one Go binary for AI agent loops. Wrap Claude Code/Codex/Cursor, keep long sessions cache-efficient, route work per call, run local GGUF models, and adjudicate tool calls.
Go · Python★ 1517. Juli 2026
Apache-2.017. Juli 2026 · Metriken 1.13.0
npm · PyPI
56MittelGesundheitsindex
rajveer43/VeloxQuant-MLX
TurboQuant MLX implementation for Apple Silicon Faster KV cache quantization optimized for MLX
Python★ 10↓ 4.108/Monat14. Juli 2026
MIT14. Juli 2026 · Metriken 1.13.0
crates.io
39GefährdetGesundheitsindex
RecursiveIntell/turbo-quant
Rust implementation of TurboQuant, PolarQuant, and QJL — zero-overhead vector quantization for semantic search and KV cache compression (ICLR 2026)
Rust★ 29↓ 2.256/Monat13. Juli 2026
MIT13. Juli 2026 · Metriken 1.13.0