llm-proxy — 开源软件健康

Go · npm

90优秀健康指数

Unified AI Gateway for 30+ LLMs (OpenAI, Anthropic, Bedrock, Azure etc) with Caching, Guardrails, A/B test & cost controls. Go-native Fastest & Scalable AI Gateway LiteLLM & Kong AI Gateway alternative.

Go · TypeScript★ 2562026年9月9日

Apache-2.02026年9月9日 · 指标 2.10.0

PyPI

90优秀健康指数

liaohch3/claude-tap

Intercept and inspect Coding Agent API traffic from Claude Code, Codex CLI, Gemini CLI, Cursor CLI, OpenCode, Kimi/Kimi Code, Pi, and Hermes in a local trace viewer.

Python · JavaScript★ 3,189↓ 59K/月2026年9月10日

MIT2026年9月10日 · 指标 2.10.0

Go · npm

87优秀健康指数

NeuralTrust/TrustGate

Open-source AI gateway for LLM and agent traffic — multi-provider routing, guardrails, semantic caching and MCP support. Written in Go.

Go★ 102026年9月14日

Apache-2.02026年9月14日 · 指标 2.10.0

PyPI

86优秀健康指数

Nayjest/lm-proxy

OpenAI-compatible HTTP LLM proxy / gateway for multi-provider inference (Google, Anthropic, OpenAI, PyTorch). Lightweight, extensible Python/FastAPI—use as library or standalone service.

Python★ 150↓ 1,822/月2026年8月26日

MIT2026年8月26日 · 指标 2.10.0

PyPI · npm · crates.io

86优秀健康指数

juyterman1000/entroly

Cut AI context cost without trusting the compressor. Every reduction is reversible, byte-exact recoverable, and carries an auditable receipt. Local-first, works through proxy, MCP, SDK, or agent wrapper.

Python · Rust★ 443↓ 9,156/月2026年9月12日

Apache-2.02026年9月12日 · 指标 2.10.0

npm

86优秀健康指数

lidge-jun/opencodex

Universal provider proxy for OpenAI Codex & Claude Code — use any LLM (Claude, Gemini, Grok, DeepSeek, Ollama…) with Codex CLI, App, SDK, and Claude Code

TypeScript★ 17.6K↓ 103.2K/月2026年10月19日

MIT2026年10月19日 · 指标 2.10.0

Go · Maven · npm

84优秀健康指数

hugalafutro/model-hotel

Multi-Provider AI Gateway - No personal logs by design. Model autodiscovery, Failover groups, High availability, Android companion app, and more - "Because we have LiteLLM at home"

Go · TypeScript★ 522026年9月10日

MIT2026年9月10日 · 指标 2.10.0

Go · npm

81优秀健康指数

voidmind-io/voidllm

Privacy-first LLM proxy and AI gateway - load balancing, multi-provider routing, API key management, usage tracking, rate limiting. Self-hosted. Zero knowledge of your prompts.

Go · TypeScript★ 1342026年9月16日

自定义许可证2026年9月16日 · 指标 2.10.0

PyPI · npm

78良好健康指数

FiredMosquito831/my-claude-code

My Claude Code (MCC) is a local multi-provider LLM proxy, model router and control plane for Claude Code, Codex, OpenCode, Gemini CLI and other AI coding agents — 57 providers, fallback routing, credential health, a native web-search tool proxy, and exhaustive analytics with cost provenance in one local dashboard.

Python★ 9↓ 2,672/月2026年9月25日

自定义许可证2026年9月25日 · 指标 2.10.0

npm · crates.io · PyPI

77良好健康指数

Fast-Editor/Lynkr

Streamline your workflow with Lynkr, a CLI tool that acts as an HTTP proxy for efficient code interactions using Claude Code CLI.

JavaScript · Rust★ 550↓ 1,969/月2026年9月14日

Apache-2.02026年9月14日 · 指标 2.10.0

crates.io · npm

77良好健康指数

soapbucket/sbproxy

Open source Enterprise AI Gateway for API, MCP and agent, and AI model traffic. One Apache-2.0 binary: 72 native providers behind an OpenAI-compatible API, or serve vLLM and llama.cpp on your own GPUs. Keys, budgets, guardrails, semantic cache, WAF.

Rust★ 532026年9月14日

Apache-2.02026年9月14日 · 指标 2.10.0

npm

77良好健康指数

yuseferi/opencode-litellm

OpenCode plugin for LiteLLM proxy support with auto-detection and dynamic model discovery

TypeScript★ 65↓ 5,248/月2026年9月16日

MIT2026年9月16日 · 指标 2.10.0

PyPI

75良好健康指数

crp4222/PrivAiTe

Self-hosted PII redaction proxy for LLM APIs and agent CLIs. Scrubs names, emails and secrets from Claude Code, Codex and any OpenAI-compatible app before requests leave your machine, tool-call arguments included, then restores them in the reply. Local detection, zero telemetry.

Python★ 382026年9月11日

BSD-3-Clause2026年9月11日 · 指标 2.10.0

PyPI · npm

75良好健康指数

domondi1/inferrail

Self-hosted OpenAI/Anthropic-compatible gateway: give each AI agent run a dollar budget, enforced before the provider, with a payload-free per-run cost record.

Python★ 0↓ 4,824/月2026年10月5日

Apache-2.02026年10月5日 · 指标 2.10.0

75良好健康指数

openziti/llm-gateway

Zero trust LLM gateway. OpenAI-compatible proxy with semantic routing and load balancing across OpenAI, Anthropic, Ollama, vLLM, and any compatible backend. Identity-based access, virtual API keys, and end-to-end encryption via OpenZiti

Go★ 952026年9月19日

Apache-2.02026年9月19日 · 指标 2.10.0

PyPI

73良好健康指数

Chuzom/Chuzom

Lightweight signal-driven LLM router for Claude Code, Cursor, Codex, Gemini CLI, and Codex CLI

Python★ 20↓ 2,660/月2026年9月15日

MIT2026年9月15日 · 指标 2.10.0

npm

63中等健康指数

gabelul/bpx-mono

Booplex pi extensions — AI advisor councils (@booplex/bpx-consult) and model endpoint management (@booplex/bpx-endpoints) for the pi coding agent

TypeScript★ 4↓ 244/月2026年9月13日

MIT2026年9月13日 · 指标 2.10.0

crates.io

62中等健康指数

sanjay920/llmshim

A pure-Rust LLM API translation layer — one OpenAI-shaped request, routed and translated to OpenAI, Anthropic, Gemini, and xAI.

Rust★ 2↓ 164/月2026年9月14日

Apache-2.02026年9月14日 · 指标 2.10.0

PyPI

54中等健康指数

Akunimal/AI-Router-Blocker-AiO

Open-source DevSecOps gateway for AI traffic. Intercept, audit, and route LLM requests to prevent data leaks and enforce zero-trust security policies.

Python★ 12026年7月26日

自定义许可证2026年7月26日 · 指标 2.10.0

Go · npm

53中等健康指数

curefatih/afi

Your AI gateway

Go · TypeScript★ 32026年9月27日

MIT2026年9月27日 · 指标 2.10.0

PyPI

51中等健康指数

BlockRunAI/blockrun-litellm

LiteLLM adapter for BlockRun — call x402-paid AI models through LiteLLM (custom provider or local OpenAI-compatible proxy)

Python★ 0↓ 347/月2026年9月13日

MIT2026年9月13日 · 指标 2.10.0

51中等健康指数

mostlydev/cllama

The blood-brain barrier for autonomous agents. A context-aware LLM governance proxy that enforces credential starvation — identity-verified, provider-routed, cost-tracked, and audit-logged.

Go★ 12026年9月19日

无许可证2026年9月19日 · 指标 2.10.0

Go · npm

51中等健康指数

sanhaji182/lintasan

High-performance LLM gateway in Go. 35x less RAM than Node.js version.

Go · Svelte★ 1032026年9月12日

MIT2026年9月12日 · 指标 2.10.0

npm

48薄弱健康指数

xk1ko/aigloo

Self-hosted AI gateway. Route, translate and track requests across providers, with access keys, budgets, and a built-in dashboard.

TypeScript★ 6↓ 110/月2026年9月13日

MIT2026年9月13日 · 指标 2.10.0

47薄弱健康指数

flowork-os/flowork_router

Never hit a rate-limit again. Route Claude Code, Cursor & 40+ providers through the subscription you already pay for, cut 40-80% tokens (RTK), stay un-banned. Self-hosted LiteLLM / OpenRouter / 9router alternative — one Go binary, anti-ban + sovereign P2P mesh.

Go★ 72026年7月15日

AGPL-3.02026年7月15日 · 指标 2.10.0

44薄弱健康指数

ikhsan3adi/gemini-web2api

Blazing fast Go port of gemini-web2api. Convert Google Gemini web into OpenAI-compatible API. Zero cost, single static binary.

Go★ 382026年9月20日

MIT2026年9月20日 · 指标 2.10.0

npm

44薄弱健康指数

romgX/openrelay

几百个免费 AI 模型配额，一键接入本地项目。| Hundreds of free AI model quotas, one-click access to local projects.

TypeScript★ 2,2992026年9月10日

MIT2026年9月10日 · 指标 2.10.0

npm

42薄弱健康指数

tokenpartyhub/TokenParty

Self-hosted AI gateway — route, observe, and control your LLM API traffic. OpenAI ↔ Anthropic protocol translation, cost-based smart routing, per-user budgets, built-in dashboard. Zero dependencies.

TypeScript★ 1↓ 249/月2026年9月12日

MIT2026年9月12日 · 指标 2.10.0

41薄弱健康指数

jasminnanda/kirogo

⚡ Turn your Kiro subscription (Amazon Q Developer / AWS CodeWhisperer) into OpenAI- and Anthropic-compatible APIs. Use Claude, GPT, Qwen and GLM models from Cursor, Claude Code, Cline, Zed and Aider. One static Go binary, zero dependencies.

Go★ 12026年9月19日

MIT2026年9月19日 · 指标 2.10.0

#llm-proxy