全部标签
目录标签

#llm-routing

公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。

9 条记录
标签为“llm-routing”按健康指数排序
Go · npm
87优秀健康指数
NeuralTrust/TrustGate
Open-source AI gateway for LLM and agent traffic — multi-provider routing, guardrails, semantic caching and MCP support. Written in Go.
Go★ 102026年9月14日
Apache-2.02026年9月14日 · 指标 2.10.0
crates.io · npm
83优秀健康指数
ratel-ai/ratel
Context engineering for AI agents. ~80% fewer tokens. Fix tool overload. Skills and memory with in-process BM25 and semantic retrieval. Progressive Disclosure. No vector DB.
TypeScript · Rust · Python★ 434↓ 175/月2026年9月12日
MIT2026年9月12日 · 指标 2.10.0
npm
81优秀健康指数
CoWork-OS/CoWork-OS
Local-first personal agentic OS and everything app for coding, knowledge work, web design, automations, and artifacts.
TypeScript★ 455↓ 1,381/月2026年9月17日
MIT2026年9月17日 · 指标 2.10.0
npm · PyPI
81优秀健康指数
Das-rebel/a3m-router
⚠️ DEPRECATED — Use adaptive-memory-multi-model-router instead
TypeScript · Python · JavaScript★ 16↓ 3,366/月2026年9月18日
MIT2026年9月18日 · 指标 2.10.0
crates.io · npm
77良好健康指数
soapbucket/sbproxy
Open source Enterprise AI Gateway for API, MCP and agent, and AI model traffic. One Apache-2.0 binary: 72 native providers behind an OpenAI-compatible API, or serve vLLM and llama.cpp on your own GPUs. Keys, budgets, guardrails, semantic cache, WAF.
Rust★ 532026年9月14日
Apache-2.02026年9月14日 · 指标 2.10.0
npm
73良好健康指数
baabakk/llm-ports
TypeScript LLM Abstraction Layer for Multi-Provider AI Systems. Multi-provider routing, fallback chains, USD cost gating, capability factories, tool-use security.
TypeScript★ 2↓ 10.6K/月2026年9月15日
MIT2026年9月15日 · 指标 2.10.0
PyPI
67良好健康指数
xorbitsai/xrouter-llm
A prompt-aware LLM router that predicts which models can complete each request, then selects the cheapest capable one: 53.2% lower cost and +1.9 pts completion on our tested dataset.
Python★ 40↓ 15.5K/月2026年10月10日
自定义许可证2026年10月10日 · 指标 2.10.0
npm
57中等健康指数
beettlle/pi-smart-router
Auto-model router middleware for the pi coding agent — routes each LLM request across local, economical cloud, and frontier tiers with session pinning and cache-aware economics.
TypeScript★ 2↓ 2,824/月2026年9月14日
无许可证2026年9月14日 · 指标 2.10.0
PyPI
50中等健康指数
JarJarBeatyourattitude/evalt
Budget-bounded LLM routing that finds the cheapest model and prompt meeting your accuracy target.
Python★ 0↓ 2,908/月2026年9月12日
MIT2026年9月12日 · 指标 2.10.0