llm-proxy — 开源软件健康

88优秀健康指数

Unified AI Gateway for 30+ LLMs (OpenAI, Anthropic, Bedrock, Azure etc) with Caching, Guardrails, A/B test & cost controls. Go-native Fastest & Scalable AI Gateway LiteLLM & Kong AI Gateway alternative.

Go★ 1832026年7月17日

Apache-2.02026年7月17日 · 指标 2.10.0

PyPI

88优秀健康指数

liaohch3/claude-tap

Intercept and inspect Coding Agent API traffic from Claude Code, Codex CLI, Gemini CLI, Cursor CLI, OpenCode, Kimi/Kimi Code, Pi, and Hermes in a local trace viewer.

Python★ 2,522↓ 59K/月2026年7月18日

MIT2026年7月18日 · 指标 2.10.0

PyPI

86优秀健康指数

Nayjest/lm-proxy

OpenAI-compatible HTTP LLM proxy / gateway for multi-provider inference (Google, Anthropic, OpenAI, PyTorch). Lightweight, extensible Python/FastAPI—use as library or standalone service.

Python★ 150↓ 1,822/月2026年8月26日

MIT2026年8月26日 · 指标 2.10.0

npm

83优秀健康指数

lidge-jun/opencodex

Universal provider proxy for OpenAI Codex & Claude Code — use any LLM (Claude, Gemini, Grok, DeepSeek, Ollama…) with Codex CLI, App, SDK, and Claude Code

TypeScript★ 11.4K↓ 76.2K/月2026年8月20日

MIT2026年8月20日 · 指标 2.10.0

Go · npm

83优秀健康指数

voidmind-io/voidllm

Privacy-first LLM proxy and AI gateway - load balancing, multi-provider routing, API key management, usage tracking, rate limiting. Self-hosted. Zero knowledge of your prompts.

Go · TypeScript★ 1232026年8月2日

自定义许可证2026年8月2日 · 指标 2.10.0

PyPI · npm · crates.io

80优秀健康指数

juyterman1000/entroly

Auditable context engineering for AI agents: context optimization, recoverable context compression, receipts, answer verification, and MCP for Claude Code, Codex, OpenClaw.

Python · Rust★ 428↓ 14.6K/月2026年7月21日

Apache-2.02026年7月21日 · 指标 2.10.0

Go · Maven · npm

77良好健康指数

hugalafutro/model-hotel

Multi-Provider AI Gateway - No personal logs by design. Model autodiscovery, Failover groups, High availabilty, Android companion app, and more. "Because we have LiteLLM at home"

Go · TypeScript★ 502026年7月18日

MIT2026年7月18日 · 指标 2.10.0

crates.io · npm

77良好健康指数

soapbucket/sbproxy

Self-hosted AI gateway and LLM proxy. OpenAI-compatible API for OpenAI, Anthropic, Gemini, Bedrock and 60+ providers, or serve vLLM/llama.cpp on your GPUs. Keys, budgets, guardrails, semantic cache, MCP

Rust★ 472026年7月30日

Apache-2.02026年7月30日 · 指标 2.10.0

npm · crates.io · PyPI

75良好健康指数

Fast-Editor/Lynkr

Streamline your workflow with Lynkr, a CLI tool that acts as an HTTP proxy for efficient code interactions using Claude Code CLI.

JavaScript · Rust · Makefile★ 538↓ 2,446/月2026年7月28日

Apache-2.02026年7月28日 · 指标 2.10.0

PyPI

65良好健康指数

crp4222/PrivAiTe

Drop-in self-hosted LLM proxy that reversibly redacts PII before OpenAI, ChatGPT and Ollama calls, including inside tool-call arguments and multimodal content. OpenAI-compatible, zero telemetry.

Python★ 202026年7月19日

BSD-3-Clause2026年7月19日 · 指标 2.10.0

crates.io

62中等健康指数

sanjay920/llmshim

A pure-Rust LLM API translation layer — one OpenAI-shaped request, routed and translated to OpenAI, Anthropic, Gemini, and xAI.

Rust★ 2↓ 121/月2026年7月27日

Apache-2.02026年7月27日 · 指标 2.10.0

PyPI

60中等健康指数

Chuzom/Chuzom

Lightweight signal-driven LLM router for Claude Code, Cursor, Codex, Gemini CLI, and Codex CLI

Python★ 19↓ 2,660/月2026年8月1日

MIT2026年8月1日 · 指标 2.10.0

npm

57中等健康指数

yuseferi/opencode-litellm

OpenCode plugin for LiteLLM proxy support with auto-detection and dynamic model discovery

TypeScript★ 35↓ 2,249/月2026年8月4日

MIT2026年8月4日 · 指标 2.10.0

PyPI

54中等健康指数

Akunimal/AI-Router-Blocker-AiO

Open-source DevSecOps gateway for AI traffic. Intercept, audit, and route LLM requests to prevent data leaks and enforce zero-trust security policies.

Python★ 12026年7月26日

自定义许可证2026年7月26日 · 指标 2.10.0

npm

50中等健康指数

xk1ko/aigloo

Self-hosted AI gateway. Route, translate and track requests across providers, with access keys, budgets, and a built-in dashboard.

TypeScript★ 4↓ 3,711/月2026年7月25日

MIT2026年7月25日 · 指标 2.10.0

47薄弱健康指数

flowork-os/flowork_router

Never hit a rate-limit again. Route Claude Code, Cursor & 40+ providers through the subscription you already pay for, cut 40-80% tokens (RTK), stay un-banned. Self-hosted LiteLLM / OpenRouter / 9router alternative — one Go binary, anti-ban + sovereign P2P mesh.

Go★ 72026年7月15日

AGPL-3.02026年7月15日 · 指标 2.10.0

npm

44薄弱健康指数

romgx/openrelay

几百个免费 AI 模型配额，一键接入本地项目。| Hundreds of free AI model quotas, one-click access to local projects.

TypeScript★ 2,2602026年7月17日

MIT2026年7月17日 · 指标 2.10.0

Go · npm

42薄弱健康指数

sanhaji182/lintasan

High-performance LLM gateway in Go. 35x less RAM than Node.js version.

Go · Svelte★ 42026年7月22日

MIT2026年7月22日 · 指标 2.10.0

Go · npm

42薄弱健康指数

sanhaji182/lintasan-go

High-performance LLM gateway in Go. 35x less RAM than Node.js version.

Go · Svelte★ 42026年7月18日

MIT2026年7月18日 · 指标 2.10.0

PyPI

39薄弱健康指数

BlockRunAI/blockrun-litellm

LiteLLM adapter for BlockRun — call x402-paid AI models through LiteLLM (custom provider or local OpenAI-compatible proxy)

Python★ 02026年7月22日

MIT2026年7月22日 · 指标 2.10.0

npm

35薄弱健康指数

tokenpartyhub/TokenParty

Self-hosted AI gateway — route, observe, and control your LLM API traffic. OpenAI ↔ Anthropic protocol translation, cost-based smart routing, per-user budgets, built-in dashboard. Zero dependencies.

TypeScript★ 12026年7月20日

MIT2026年7月20日 · 指标 2.10.0

#llm-proxy