ai-gateway — 开源软件健康

Go · npm

84良好健康指数

Fastest enterprise AI gateway (50x faster than LiteLLM) with adaptive load balancer, cluster mode, guardrails, 1000+ models support & <100 µs overhead at 5k RPS.

Go · TypeScript★ 6,5742026年7月17日

Apache-2.02026年7月17日 · 指标 1.13.0

PyPI · crates.io · npm

81良好健康指数

BerriAI/litellm

Python SDK, Proxy Server (AI Gateway) to call 100+ LLM APIs in OpenAI (or native) format, with cost tracking, guardrails, loadbalancing and logging. [Bedrock, Azure, OpenAI, VertexAI, Cohere, Anthropic, Sagemaker, HuggingFace, VLLM, NVIDIA NIM]

Python · TypeScript★ 53.6K↓ 1.8M/月2026年7月15日

自定义许可证2026年7月15日 · 指标 1.13.0

npm

80良好健康指数

diegosouzapw/omniroute

Never stop coding. Free AI gateway: one endpoint, 231+ providers (50+ free), connect Claude Code, Codex, Cursor, Cline & Copilot to FREE Claude/GPT/Gemini. RTK+Caveman stacked compression saves 15-95% tokens, smart auto-fallback, MCP/A2A, multimodal APIs, Desktop/PWA.

TypeScript★ 17.7K↓ 70K/月2026年7月16日

MIT2026年7月16日 · 指标 1.13.0

Go · npm

77良好健康指数

QuantumNous/new-api

A unified AI model hub for aggregation & distribution. It supports cross-converting various LLMs into OpenAI-compatible, Claude-compatible, or Gemini-compatible formats. A centralized gateway for personal and enterprise model management. 🍥

Go★ 42.3K2026年7月15日

AGPL-3.02026年7月15日 · 指标 1.13.0

npm

77良好健康指数

kaitranntt/ccs

Switch between Claude accounts, Gemini, Copilot, OpenRouter (300+ models) via CLIProxyAPI OAuth proxy. Visual dashboard, remote proxy support, WebSearch fallback. Zero-config to production-ready.

TypeScript★ 2,694↓ 24K/月2026年7月13日

MIT2026年7月13日 · 指标 1.13.0

npm

76良好健康指数

decolua/9router

Unlimited FREE AI coding. Connect Claude Code, Codex, Cursor, Cline, Copilot, Antigravity to FREE Claude/GPT/Gemini via 40+ providers. Auto-fallback, RTK -40% tokens, never hit limits.

JavaScript★ 22.1K↓ 166.8K/月2026年7月14日

MIT2026年7月14日 · 指标 1.13.0

75良好健康指数

enterpilot/gomodel

AI gateway written in Go. Lightweight unified OpenAI-compatible API for OpenAI, Anthropic, Gemini, Groq, xAI & Ollama. LiteLLM alternative with observability, guardrails, streaming, costs and usage tracking.

Go · JavaScript★ 1,0112026年7月19日

MIT2026年7月19日 · 指标 1.13.0

73良好健康指数

ferro-labs/ai-gateway

Unified AI Gateway for 30+ LLMs (OpenAI, Anthropic, Bedrock, Azure etc) with Caching, Guardrails, A/B test & cost controls. Go-native Fastest & Scalable AI Gateway LiteLLM & Kong AI Gateway alternative.

Go★ 1832026年7月17日

Apache-2.02026年7月17日 · 指标 1.13.0

npm

71良好健康指数

caozhiyuan/copilot-api

GitHub Copilot, OpenAI Codex, and third-party AI provider gateway with OpenAI and Anthropic API compatibility.

TypeScript★ 906↓ 16.6K/月2026年7月13日

MIT2026年7月13日 · 指标 1.13.0

Go · npm

66中等健康指数

PalenaAI/litellm-operator

Kubernetes operator for deploying and managing LiteLLM AI Gateway. Declarative CRDs for models, teams, users, and virtual keys with bidirectional config sync, SSO/SCIM user provisioning, and OLM support. Built with Operator SDK.

Go★ 62026年7月19日

Apache-2.02026年7月19日 · 指标 1.13.0

npm

66中等健康指数

seakee/CPA-Manager-Plus

A self-hosted CPA / CLIProxyAPI management panel and observability dashboard for requests, usage, cost, quota, failures, and account health.

TypeScript · Go★ 1,9642026年7月20日

MIT2026年7月20日 · 指标 1.13.0

npm

65中等健康指数

CodesWhat/portkey-admin-mcp

Full Portkey Admin API MCP server

TypeScript★ 5↓ 2,013/月2026年7月17日

MIT2026年7月17日 · 指标 1.13.0

npm

62中等健康指数

sinameraji/kimiflare

kimi k2.7 terminal based coding agent & harness running on your own Cloudflare account.

TypeScript★ 158↓ 3,221/月2026年7月22日

MIT2026年7月22日 · 指标 1.13.0

62中等健康指数

sozercan/vekil

🧑‍💼 AI gateway exposing Anthropic, Gemini, and OpenAI-compatible APIs, backed by GitHub Copilot, OpenAI Codex, Microsoft Foundry, and compatible model servers

Go★ 172026年7月17日

MIT2026年7月17日 · 指标 1.13.0

PyPI

61中等健康指数

crp4222/PrivAiTe

Drop-in self-hosted LLM proxy that reversibly redacts PII before OpenAI, ChatGPT and Ollama calls, including inside tool-call arguments and multimodal content. OpenAI-compatible, zero telemetry.

Python★ 202026年7月19日

BSD-3-Clause2026年7月19日 · 指标 1.13.0

59中等健康指数

hishamkaram/claude-code-router

A local gateway that routes Claude Code sessions to OpenAI-compatible and Anthropic-compatible models, with same-session switching and visible compatibility behavior.

Go★ 02026年7月17日

MIT2026年7月17日 · 指标 1.13.0

npm

59中等健康指数

manojmallick/gavio

The open standard AI gateway — PII protection, audit, reliability & cost control as composable interceptors. Same API in Python, Java & JavaScript.

Java · Python · TypeScript★ 62026年7月20日

MIT2026年7月20日 · 指标 1.13.0

npm

55中等健康指数

SeanHogg/Builderforce.ai

Agentic AI Coding Platform that enables everyone to train, design and embed custom LLMs into a custom agent. Deploy your agent into the builderforce (a workforce and hiring platform). Explore skills, personnas, content, governance and workforce agents in the marketplace.

TypeScript★ 5↓ 4,295/月2026年7月17日

MIT2026年7月17日 · 指标 1.13.0

Go · npm

52中等健康指数

opencsgs/csglite

CSGLite is a lightweight local LLM runner for the CSGHub platform. One command downloads, loads, and chats with models. It ships a web UI, OpenAI-compatible API, llama.cpp inference, resumable downloads, marketplace browsing, and one-click AI app and coding-agent setup—all in a single cross-platform binary.

Go★ 31↓ 0/月2026年7月14日

Apache-2.02026年7月14日 · 指标 1.13.0

48存在风险健康指数

flowork-os/flowork_router

Never hit a rate-limit again. Route Claude Code, Cursor & 40+ providers through the subscription you already pay for, cut 40-80% tokens (RTK), stay un-banned. Self-hosted LiteLLM / OpenRouter / 9router alternative — one Go binary, anti-ban + sovereign P2P mesh.

Go★ 72026年7月15日

AGPL-3.02026年7月15日 · 指标 1.13.0

Go · npm

44存在风险健康指数

sanhaji182/lintasan

High-performance LLM gateway in Go. 35x less RAM than Node.js version.

Go · Svelte★ 42026年7月22日

MIT2026年7月22日 · 指标 1.13.0

Go · npm

44存在风险健康指数

sanhaji182/lintasan-go

High-performance LLM gateway in Go. 35x less RAM than Node.js version.

Go · Svelte★ 42026年7月18日

MIT2026年7月18日 · 指标 1.13.0

PyPI

42存在风险健康指数

BlockRunAI/blockrun-litellm

LiteLLM adapter for BlockRun — call x402-paid AI models through LiteLLM (custom provider or local OpenAI-compatible proxy)

Python★ 02026年7月22日

MIT2026年7月22日 · 指标 1.13.0

npm

38存在风险健康指数

tokenpartyhub/TokenParty

Self-hosted AI gateway — route, observe, and control your LLM API traffic. OpenAI ↔ Anthropic protocol translation, cost-based smart routing, per-user budgets, built-in dashboard. Zero dependencies.

TypeScript★ 12026年7月20日

MIT2026年7月20日 · 指标 1.13.0

#ai-gateway