Todas las etiquetas
Etiqueta del catálogo

#distributed-inference

Todos los repositorios del registro público que llevan esta etiqueta, procedente de sus topics de GitHub o de las palabras clave que publican sus registros de paquetes. La salud se mide con la misma metodología versionada que el resto del registro.

3 registros
Con la etiqueta «distributed-inference»Ordenado por índice de salud
PyPI
97Excepcionalíndice de salud
flashinfer-ai/flashinfer
FlashInfer: Kernel Library for LLM Serving
Python · Cuda★ 6263↓ 7.1M/mes27 ago 2026
Apache-2.027 ago 2026 · métricas 2.10.0
PyPI
95Excepcionalíndice de salud
gpustack/gpustack
A GPU cluster manager for high-performance AI model serving (vLLM, SGLang) and on-demand SSH-accessible GPU instances.
Python★ 5422↓ 2132/mes2 ago 2026
Apache-2.02 ago 2026 · métricas 2.10.0
PyPI · crates.io
62Moderadoíndice de salud
theoddden/Terradev
An imperative command-line-interface for AI workload orchestration
Python★ 25↓ 3845/mes23 ago 2026
Apache-2.023 ago 2026 · métricas 2.10.0