Todas las etiquetas
Etiqueta del catálogo

#distributed-inference

Todos los repositorios del registro público que llevan esta etiqueta, procedente de sus topics de GitHub o de las palabras clave que publican sus registros de paquetes. La salud se mide con la misma metodología versionada que el resto del registro.

4 registros
Con la etiqueta «distributed-inference»Ordenado por índice de salud
PyPI
97Excepcionalíndice de salud
flashinfer-ai/flashinfer
FlashInfer: Kernel Library for LLM Serving
Python · Cuda★ 6263↓ 7.1M/mes27 ago 2026
Apache-2.027 ago 2026 · métricas 2.10.0
PyPI
96Excepcionalíndice de salud
gpustack/gpustack
A GPU cluster manager for high-performance AI model serving (vLLM, SGLang) and on-demand SSH-accessible GPU instances.
Python★ 569615 sept 2026
Apache-2.015 sept 2026 · métricas 2.10.0
PyPI
94Excepcionalíndice de salud
sgl-project/sglang-omni
SGLang-Omni is a high-performance serving framework for audio models (TTS, ASR) and unified multimodal models.
Python★ 1289↓ 3737/mes28 sept 2026
Apache-2.028 sept 2026 · métricas 2.10.0
PyPI · crates.io
62Moderadoíndice de salud
theoddden/Terradev
An imperative command-line-interface for AI workload orchestration
Python★ 25↓ 3845/mes23 ago 2026
Apache-2.023 ago 2026 · métricas 2.10.0