PyPI · crates.io · npm
kharkevich-engineering-lab/spark-pulse
Spark Pulse is a web control plane for spark-vllm-docker
自定义许可证2026年9月21日 · 指标 2.10.0
全部标签
目录标签
#vllm
公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。
51 条记录
Go
openziti/llm-gateway
Zero trust LLM gateway. OpenAI-compatible proxy with semantic routing and load balancing across OpenAI, Anthropic, Ollama, vLLM, and any compatible backend. Identity-based access, virtual API keys, and end-to-end encryption via OpenZiti
Apache-2.02026年9月19日 · 指标 2.10.0
PyPI
CocoRoF/geny-executor
Manifest-driven 21-stage agent pipeline for Python — 5 LLM backends (Anthropic / OpenAI / Google / vLLM / Claude Code CLI), tools, skills, memory, sandboxed CLI runs, MCP. The engine behind Geny. Apache-2.0.
Apache-2.02026年10月21日 · 指标 2.10.0
PyPI
mobilint/vllm-mblt
An out-of-tree vLLM plugin for Mobilint NPU runtime integration.
Apache-2.02026年10月12日 · 指标 2.10.0
PyPI
Aitherium/awdk
Build AI agent fleets. 3 lines, any backend, local or cloud. Effort-based model routing, 48 identities, knowledge graph memory, fleet orchestration.
自定义许可证2026年9月5日 · 指标 2.10.0
PyPI
cdnwetzel/pxx
Local-first AI coding agent runtime — your models, fail-closed safety, evidence-gated self-improvement
MIT2026年9月15日 · 指标 2.10.0
PyPI
varjoranta/turboquant-vllm
TurboQuant+ KV cache compression for vLLM. 3.8x smaller KV cache, same conversation quality. Fused CUDA kernels with automatic PyTorch fallback.
MIT2026年9月12日 · 指标 2.10.0
npm
yeemio/owlcoda
OwlCoda — local-first foundation for governed AI business execution: evidence, replaceable executors, admitted results, and explicit authority boundaries.
GPL-3.02026年9月13日 · 指标 2.10.0
PyPI
hackspaces/blueshark-forge
Model-agnostic agentic runtime for the terminal — any local model becomes a capable agent. The intelligence lives in the harness, not the weights.
MIT2026年9月5日 · 指标 2.10.0
npm
gabelul/bpx-mono
Booplex pi extensions — AI advisor councils (@booplex/bpx-consult) and model endpoint management (@booplex/bpx-endpoints) for the pi coding agent
MIT2026年9月13日 · 指标 2.10.0
PyPI
jagmarques/nexusquant
Training-free KV cache compression via E8 lattice VQ. 2-bit KV that preserves retrieval (30/30 NIAH vs TurboQuant 0/30). Calibration-free, 9 architectures validated.
自定义许可证2026年7月16日 · 指标 2.10.0
PyPI
RobTand/gridbook
Out-of-tree vLLM plugin and open format spec for NVFP4-CB / FP8-CB product-codebook weights — 2-6 bit-per-weight LLM quantization served on native Blackwell tensor cores.
Apache-2.02026年9月18日 · 指标 2.10.0
Go
spencerbull/Yokai
Terminal-first GPU fleet manager for deploying, monitoring, and managing vLLM, llama.cpp, and ComfyUI workloads.
MIT2026年10月19日 · 指标 2.10.0
PyPI · crates.io
theoddden/Terradev
An imperative command-line-interface for AI workload orchestration
Apache-2.02026年8月23日 · 指标 2.10.0
npm
apholdings/jensen-code
AI agent toolkit: coding agent CLI, unified LLM API, TUI & web UI libraries, Slack bot, vLLM pods
MIT2026年9月18日 · 指标 2.10.0
—
MekayelAnik/vllm-cpu
Wheels & Docker images for running vLLM on CPU-only systems, optimized for different CPU instruction sets
GPL-3.02026年9月17日 · 指标 2.10.0
Go · npm
napmany/llmsnap
Fast LLM swapping with sleep/wake support, compatible with vllm, llama.cpp, etc. llama-swap fork.
MIT2026年9月24日 · 指标 2.10.0
PyPI
llaa33219/outo-llms
Deploy local LLMs behind your own managed API server - vLLM or llama.cpp in isolated environments, API keys, workspaces, usage tracking
Apache-2.02026年9月13日 · 指标 2.10.0
Go
hekmon/subtitles-ai-ocr
Read PGS (Bluray) and VobSub (DVD) image subtitles and extract their text using external Vision Language Models.
MIT2026年10月20日 · 指标 2.10.0
Go
iguanesolutions/qwen35-rp
Qwen 3.5 Reverse Proxy for handling instant / thinking modes and their variants automatically
MIT2026年9月19日 · 指标 2.10.0
PyPI
wuxuedaifu/vllm-surya-ocr
OpenAI-compatible, vLLM-served OCR API for the Surya-OCR-2 model — multilingual document OCR (layout + text recognition) with request batching, a local CLI, and Docker packaging.
MIT2026年9月19日 · 指标 2.10.0