Katalog-Tag

#continuous-batching

Alle Repositories im öffentlichen Register, die dieses Tag tragen — aus ihren GitHub-Topics oder den von ihren Paket-Registries veröffentlichten Schlagwörtern. Die Gesundheit wird nach derselben versionierten Methodik gemessen wie im übrigen Register.

1 Eintrag

Getaggt als „continuous-batching“Geordnet nach Gesundheitsindex

PyPI

91ExzellentGesundheitsindex

waybarrios/vllm-mlx

High-performance OpenAI and Anthropic compatible LLM inference server for Apple Silicon. Native MLX, continuous batching, multimodal models, MCP tool calling, and Claude Code support.

Python★ 1.626↓ 5.191/Monat20. Okt. 2026

Apache-2.020. Okt. 2026 · Metriken 2.10.0