PyPI
flashinfer-ai/flashinfer
FlashInfer: Kernel Library for LLM Serving
Apache-2.027 серп. 2026 р. · метрики 2.10.0
Усі теги
Тег каталогу
#distributed-inference
Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.
3 записи
PyPI
gpustack/gpustack
A GPU cluster manager for high-performance AI model serving (vLLM, SGLang) and on-demand SSH-accessible GPU instances.
Apache-2.02 серп. 2026 р. · метрики 2.10.0
PyPI · crates.io
theoddden/Terradev
An imperative command-line-interface for AI workload orchestration
Apache-2.023 серп. 2026 р. · метрики 2.10.0