Тег каталогу

#continuous-batching

Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.

1 запис

З тегом «continuous-batching»Упорядковано за індексом здоров'я

PyPI

91Відміннийіндекс здоров'я

waybarrios/vllm-mlx

High-performance OpenAI and Anthropic compatible LLM inference server for Apple Silicon. Native MLX, continuous batching, multimodal models, MCP tool calling, and Claude Code support.

Python★ 1 626↓ 5 191/міс20 жовт. 2026 р.

Apache-2.020 жовт. 2026 р. · метрики 2.10.0