inference-gateway — 开源软件健康

PyPI · crates.io

94卓越健康指数

Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.

Rust · Python★ 515↓ 1M/月2026年9月9日

Apache-2.02026年9月9日 · 指标 2.10.0

npm · Go

90优秀健康指数

inference-gateway/cli

A Git-first CLI coding agent that turns ideas, issues, and tasks into real code changes. It can run remotely from your mobile phone or automate your computer.

Go★ 8↓ 9,000/月2026年10月20日

Apache-2.02026年10月20日 · 指标 2.10.0

77良好健康指数

inference-gateway/google-calendar-agent

A2A agent server enabling Google Calendar scheduling, retrieval, and automation

Go★ 212026年9月13日

Apache-2.02026年9月13日 · 指标 2.10.0

PyPI · npm

75良好健康指数

domondi1/inferrail

Self-hosted OpenAI/Anthropic-compatible gateway: give each AI agent run a dollar budget, enforced before the provider, with a payload-free per-run cost record.

Python★ 0↓ 4,824/月2026年10月5日

Apache-2.02026年10月5日 · 指标 2.10.0

75良好健康指数

inference-gateway/adk

An Agent Development Kit (ADK) allowing for seamless creation of A2A-compatible agents written in Go.

Go★ 252026年9月10日

Apache-2.02026年9月10日 · 指标 2.10.0

npm · Go

75良好健康指数

inference-gateway/adl-cli

A command-line tool to scaffold and manage enterprise-ready AI Agents powered by the A2A (Agent-to-Agent) protocol

Go · Go Template★ 14↓ 3,171/月2026年9月10日

Apache-2.02026年9月10日 · 指标 2.10.0

73良好健康指数

inference-gateway/sdk

An SDK written in Go for the Inference Gateway.

Go★ 42026年9月14日

Apache-2.02026年9月14日 · 指标 2.10.0

51中等健康指数

mostlydev/cllama

The blood-brain barrier for autonomous agents. A context-aware LLM governance proxy that enforces credential starvation — identity-verified, provider-routed, cost-tracked, and audit-logged.

Go★ 12026年9月19日

无许可证2026年9月19日 · 指标 2.10.0

#inference-gateway