openai-compatible — здоров'я програмного забезпечення з відкритим кодом

npm

95Винятковийіндекс здоров'я

Open-source local AI SDK - run AI on-device with no cloud, no API keys. Supports GGUF, RAG, image, music, and video generation, speech-to-text, P2P inference, and more. Cross-platform: Linux, macOS, Windows, Android, iOS.

TypeScript · JavaScript · C++★ 597↓ 202.1K/міс10 вер. 2026 р.

Apache-2.010 вер. 2026 р. · метрики 2.10.0

94Винятковийіндекс здоров'я

ENTERPILOT/GoModel

AI gateway / AI control plane / AI proxy written in Go. Unified OpenAI-compatible and Anthropic-compatible API for OpenAI, Anthropic, Gemini, Groq, xAI, Ollama, vLLM and more. A LiteLLM alternative with observability, guardrails, streaming, cost tracking, intelligent routing, sticky sessions, failover, real-time logs and usage tracking. Prod ready.

Go · JavaScript★ 1 14511 вер. 2026 р.

MIT11 вер. 2026 р. · метрики 2.10.0

PyPI · npm

94Винятковийіндекс здоров'я

modelscope/FunASR

Open-source speech recognition toolkit for training, inference, streaming ASR, VAD, punctuation, speaker diarization pipelines, and OpenAI-compatible/MCP serving.

Python · C · HTML★ 20.4K16 вер. 2026 р.

MIT16 вер. 2026 р. · метрики 2.10.0

93Винятковийіндекс здоров'я

Mindburn-Labs/helm-ai-kernel

Fail-closed execution firewall for AI agents: quarantine MCP tools, proxy OpenAI-compatible requests, emit signed receipts, and verify EvidencePacks offline.

Go★ 5510 вер. 2026 р.

Apache-2.010 вер. 2026 р. · метрики 2.10.0

PyPI · npm

91Відміннийіндекс здоров'я

henrique-coder/perplexity-webui-scraper

An advanced, high-performance Python client, MCP server, and REST API for reverse-engineering Perplexity AI's WebUI.

Python★ 137↓ 11.5K/міс19 жовт. 2026 р.

MIT19 жовт. 2026 р. · метрики 2.10.0

PyPI

91Відміннийіндекс здоров'я

waybarrios/vllm-mlx

High-performance OpenAI and Anthropic compatible LLM inference server for Apple Silicon. Native MLX, continuous batching, multimodal models, MCP tool calling, and Claude Code support.

Python★ 1 626↓ 5 191/міс20 жовт. 2026 р.

Apache-2.020 жовт. 2026 р. · метрики 2.10.0

PyPI · npm

90Відміннийіндекс здоров'я

HKUDS/nanobot

Ultra-lightweight, open-source, self-hosted personal AI agent framework in Python with WebUI, tools, memory, MCP, multi-agent workflows, automation, and chat apps

Python · TypeScript★ 48.3K18 вер. 2026 р.

MIT18 вер. 2026 р. · метрики 2.10.0

Go · npm

90Відміннийіндекс здоров'я

ferro-labs/ai-gateway

Unified AI Gateway for 30+ LLMs (OpenAI, Anthropic, Bedrock, Azure etc) with Caching, Guardrails, A/B test & cost controls. Go-native Fastest & Scalable AI Gateway LiteLLM & Kong AI Gateway alternative.

Go · TypeScript★ 2569 вер. 2026 р.

Apache-2.09 вер. 2026 р. · метрики 2.10.0

npm

90Відміннийіндекс здоров'я

tashfeenahmed/freellmapi

7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.

TypeScript★ 27.4K↓ 6 354/міс20 вер. 2026 р.

MIT20 вер. 2026 р. · метрики 2.10.0

Go · npm

89Відміннийіндекс здоров'я

seakee/CPA-Manager-Plus

A self-hosted CPA / CLIProxyAPI management panel and AI gateway observability dashboard for requests, usage, cost, quota, failures, and account health.

Go★ 3 37412 вер. 2026 р.

MIT12 вер. 2026 р. · метрики 2.10.0

PyPI

87Відміннийіндекс здоров'я

berkayturanci/ai-jury

Stdlib-only Python CLI that orchestrates universal AI agent providers (Claude Code, Codex, Antigravity, OpenRouter, DeepSeek, Groq, local models, Aider) into a multi-agent PR review jury — debate, verify, synthesize one verdict. Local-first, secure by default.

Python★ 8↓ 3 403/міс12 жовт. 2026 р.

MIT12 жовт. 2026 р. · метрики 2.10.0

npm

84Відміннийіндекс здоров'я

BlockRunAI/blockrun-llm-ts

TypeScript SDK for BlockRun — every frontier model behind one OpenAI-compatible client. Pay with a BlockRun API key or per-call in USDC. Smart routing picks the cheapest capable model. Zero rate limits.

TypeScript★ 3↓ 13.1K/міс10 вер. 2026 р.

MIT10 вер. 2026 р. · метрики 2.10.0

PyPI · npm

81Відміннийіндекс здоров'я

vladkesler/initrunner

Define AI agent roles in YAML and run them anywhere: CLI, API server, or autonomous daemon

Python★ 41↓ 1 603/міс10 вер. 2026 р.

Apache-2.010 вер. 2026 р. · метрики 2.10.0

npm

81Відміннийіндекс здоров'я

yuhp/opencode-models-discovery

A universal OpenCode plugin for dynamic model discovery with flexible configuration for OpenAI-compatible providers.

TypeScript★ 131↓ 429.1K/міс8 вер. 2026 р.

MIT8 вер. 2026 р. · метрики 2.10.0

PyPI · npm

80Відміннийіндекс здоров'я

jin-bo/agentao

Local-first, governed AI agent runtime for Python — embed it in your app, or run it as a CLI or ACP server. Permissions, MCP, memory and audit replay built in.

Python★ 309↓ 2 631/міс18 жовт. 2026 р.

MIT18 жовт. 2026 р. · метрики 2.10.0

PyPI · npm

80Відміннийіндекс здоров'я

youssofal/MTPLX

3x faster speeds on MLX | Qwen 3.8 27B | Native MTP Speculative Decoding On Apple Silicon With No External Drafter.

Python · Swift★ 2 329↓ 9 464/міс15 вер. 2026 р.

Apache-2.015 вер. 2026 р. · метрики 2.10.0

—

78Добрийіндекс здоров'я

Arthur-Ficial/apfel

The free AI already on your Mac. CLI tool, OpenAI-compatible server, and interactive chat — all on-device via Apple Intelligence. No API keys, no cloud, no downloads.

Swift · Python★ 6 38616 вер. 2026 р.

MIT16 вер. 2026 р. · метрики 2.10.0

PyPI

77Добрийіндекс здоров'я

KevRojo/Dulus

Dulus Ai — Free Agentic AI, Making Gemini web cappable of running bash commands in your terminal! [Gui, Web, Cli, Telegram, 2,000 MCP, 100K Skills . LiteLLM (100+ providers), local models via Ollama, /lang in 34 languages, Mesa Redonda, I create the first utility coin that can be used 100% as AI quota or Fuel, is called $Dulus

Python★ 358↓ 7 957/міс5 вер. 2026 р.

GPL-3.05 вер. 2026 р. · метрики 2.10.0

crates.io

77Добрийіндекс здоров'я

arcships/aimux

Unified LLM access layer in Rust — one API for 325 AI providers. 统一 LLM 服务接入层：一套 API 接入 325 家 AI 服务商。

Rust★ 1952 жовт. 2026 р.

MIT2 жовт. 2026 р. · метрики 2.10.0

npm

77Добрийіндекс здоров'я

verbatra/verbatra

CLI, SDK, and local Studio dashboard to automate i18n translation across i18next, vue-i18n, next-intl, ngx-translate, XLIFF, YAML, Flutter ARB, and Java properties, using OpenAI, Anthropic, Gemini, DeepL, or an openai-compatible model.

TypeScript · MDX★ 2↓ 3 766/міс9 вер. 2026 р.

MIT9 вер. 2026 р. · метрики 2.10.0

npm

77Добрийіндекс здоров'я

yuseferi/opencode-litellm

OpenCode plugin for LiteLLM proxy support with auto-detection and dynamic model discovery

TypeScript★ 65↓ 5 248/міс16 вер. 2026 р.

MIT16 вер. 2026 р. · метрики 2.10.0

PyPI

75Добрийіндекс здоров'я

ZahiriNatZuke/local-delegate

MCP that delegates mechanical text tasks to a local OpenAI-compatible LLM endpoint to conserve Claude subscription quota.

Python★ 5↓ 1 283/міс14 вер. 2026 р.

MIT14 вер. 2026 р. · метрики 2.10.0

PyPI · npm

75Добрийіндекс здоров'я

domondi1/inferrail

Self-hosted OpenAI/Anthropic-compatible gateway: give each AI agent run a dollar budget, enforced before the provider, with a payload-free per-run cost record.

Python★ 0↓ 4 824/міс5 жовт. 2026 р.

Apache-2.05 жовт. 2026 р. · метрики 2.10.0

npm

73Добрийіндекс здоров'я

BlackUnicornSecurity/bonklm

BonkLM - LLM Security Guardrails with Interactive Setup Wizard

TypeScript★ 5↓ 7 724/міс18 вер. 2026 р.

Apache-2.018 вер. 2026 р. · метрики 2.10.0

npm

71Добрийіндекс здоров'я

AIsa-team/cli

CLI for the AISA unified AI infrastructure platform - access 70+ LLMs, web search, finance, Twitter, and video generation APIs

TypeScript · JavaScript★ 1↓ 2 101/міс12 вер. 2026 р.

MIT12 вер. 2026 р. · метрики 2.10.0

PyPI

71Добрийіндекс здоров'я

Tachion-Oy/roboz

Python framework for typed LLM agents with conditional tool chaining.

Python★ 0↓ 2 500/міс8 жовт. 2026 р.

Apache-2.08 жовт. 2026 р. · метрики 2.10.0

crates.io

71Добрийіндекс здоров'я

dravr-ai/dravr-embacle

Rust library wrapping 12 AI CLI tools as pluggable LLM providers — with OpenAI API client, ACP headless mode, agent loop, MCP server, and OpenAI-compatible REST API

Rust★ 7↓ 2 813/міс18 вер. 2026 р.

Власна ліцензія18 вер. 2026 р. · метрики 2.10.0

npm

69Добрийіндекс здоров'я

animeshkundu/github-router

Power Claude Code, Codex CLI, and more with your Copilot subscription.

TypeScript★ 5↓ 47/міс12 вер. 2026 р.

MIT12 вер. 2026 р. · метрики 2.10.0

npm

69Добрийіндекс здоров'я

arikusi/deepseek-mcp-server

MCP server for DeepSeek V4 (v4-flash, v4-pro, 1M context): chat, reasoning, function calling, thinking mode, cost tracking. deepseek-chat/reasoner aliases supported.

TypeScript★ 24↓ 2 086/міс14 жовт. 2026 р.

MIT14 жовт. 2026 р. · метрики 2.10.0

69Добрийіндекс здоров'я

hishamkaram/claude-code-router

A local gateway that routes Claude Code sessions to OpenAI-compatible and Anthropic-compatible models, with same-session switching and visible compatibility behavior.

Go★ 410 вер. 2026 р.

MIT10 вер. 2026 р. · метрики 2.10.0

#openai-compatible