Усі теги
Тег каталогу

#llm-routing

Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.

9 записів
З тегом «llm-routing»Упорядковано за індексом здоров'я
Go · npm
87Відміннийіндекс здоров'я
NeuralTrust/TrustGate
Open-source AI gateway for LLM and agent traffic — multi-provider routing, guardrails, semantic caching and MCP support. Written in Go.
Go★ 1014 вер. 2026 р.
Apache-2.014 вер. 2026 р. · метрики 2.10.0
crates.io · npm
83Відміннийіндекс здоров'я
ratel-ai/ratel
Context engineering for AI agents. ~80% fewer tokens. Fix tool overload. Skills and memory with in-process BM25 and semantic retrieval. Progressive Disclosure. No vector DB.
TypeScript · Rust · Python★ 434↓ 175/міс12 вер. 2026 р.
MIT12 вер. 2026 р. · метрики 2.10.0
npm
81Відміннийіндекс здоров'я
CoWork-OS/CoWork-OS
Local-first personal agentic OS and everything app for coding, knowledge work, web design, automations, and artifacts.
TypeScript★ 455↓ 1 381/міс17 вер. 2026 р.
MIT17 вер. 2026 р. · метрики 2.10.0
npm · PyPI
81Відміннийіндекс здоров'я
Das-rebel/a3m-router
⚠️ DEPRECATED — Use adaptive-memory-multi-model-router instead
TypeScript · Python · JavaScript★ 16↓ 3 366/міс18 вер. 2026 р.
MIT18 вер. 2026 р. · метрики 2.10.0
crates.io · npm
77Добрийіндекс здоров'я
soapbucket/sbproxy
Open source Enterprise AI Gateway for API, MCP and agent, and AI model traffic. One Apache-2.0 binary: 72 native providers behind an OpenAI-compatible API, or serve vLLM and llama.cpp on your own GPUs. Keys, budgets, guardrails, semantic cache, WAF.
Rust★ 5314 вер. 2026 р.
Apache-2.014 вер. 2026 р. · метрики 2.10.0
npm
73Добрийіндекс здоров'я
baabakk/llm-ports
TypeScript LLM Abstraction Layer for Multi-Provider AI Systems. Multi-provider routing, fallback chains, USD cost gating, capability factories, tool-use security.
TypeScript★ 2↓ 10.6K/міс15 вер. 2026 р.
MIT15 вер. 2026 р. · метрики 2.10.0
PyPI
67Добрийіндекс здоров'я
xorbitsai/xrouter-llm
A prompt-aware LLM router that predicts which models can complete each request, then selects the cheapest capable one: 53.2% lower cost and +1.9 pts completion on our tested dataset.
Python★ 40↓ 15.5K/міс10 жовт. 2026 р.
Власна ліцензія10 жовт. 2026 р. · метрики 2.10.0
npm
57Помірнийіндекс здоров'я
beettlle/pi-smart-router
Auto-model router middleware for the pi coding agent — routes each LLM request across local, economical cloud, and frontier tiers with session pinning and cache-aware economics.
TypeScript★ 2↓ 2 824/міс14 вер. 2026 р.
Без ліцензії14 вер. 2026 р. · метрики 2.10.0
PyPI
50Помірнийіндекс здоров'я
JarJarBeatyourattitude/evalt
Budget-bounded LLM routing that finds the cheapest model and prompt meeting your accuracy target.
Python★ 0↓ 2 908/міс12 вер. 2026 р.
MIT12 вер. 2026 р. · метрики 2.10.0