Усі теги
Тег каталогу

#inference-server

Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.

5 записів
З тегом «inference-server»Упорядковано за індексом здоров'я
PyPI · crates.io
98Винятковийіндекс здоров'я
basetenlabs/truss
The simplest way to serve AI/ML models in production
Python · Rust★ 1 195↓ 966.4K/міс27 серп. 2026 р.
MIT27 серп. 2026 р. · метрики 2.10.0
PyPI
94Винятковийіндекс здоров'я
vllm-project/speculators
A unified library for building, evaluating, and storing speculative decoding algorithms for LLM inference in vLLM
Python★ 865↓ 5 844/міс8 жовт. 2026 р.
Apache-2.08 жовт. 2026 р. · метрики 2.10.0
PyPI
91Відміннийіндекс здоров'я
waybarrios/vllm-mlx
High-performance OpenAI and Anthropic compatible LLM inference server for Apple Silicon. Native MLX, continuous batching, multimodal models, MCP tool calling, and Claude Code support.
Python★ 1 626↓ 5 191/міс20 жовт. 2026 р.
Apache-2.020 жовт. 2026 р. · метрики 2.10.0
PyPI · npm
88Відміннийіндекс здоров'я
roboflow/inference
Turn any computer or edge device into a command center for your computer vision projects.
Python★ 2 48021 жовт. 2026 р.
Власна ліцензія21 жовт. 2026 р. · метрики 2.10.0
PyPI
86Відміннийіндекс здоров'я
jundot/omlx
LLM inference server with continuous batching & SSD caching for Apple Silicon — managed from the macOS menu bar
Python★ 21.8K16 вер. 2026 р.
Apache-2.016 вер. 2026 р. · метрики 2.10.0