Усі теги
Тег каталогу

#serving

Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.

6 записів
З тегом «serving»Упорядковано за індексом здоров'я
Maven · PyPI
99Винятковийіндекс здоров'я
ray-project/ray
Ray is an AI compute engine. Ray consists of a core distributed runtime and a set of AI Libraries for accelerating ML workloads.
Python · C++★ 43.8K16 вер. 2026 р.
Apache-2.016 вер. 2026 р. · метрики 2.10.0
Go
98Винятковийіндекс здоров'я
volcano-sh/volcano
A Cloud Native Batch System (Project under CNCF)
Go★ 5 88223 серп. 2026 р.
Apache-2.023 серп. 2026 р. · метрики 2.10.0
PyPI
94Винятковийіндекс здоров'я
vllm-project/speculators
A unified library for building, evaluating, and storing speculative decoding algorithms for LLM inference in vLLM
Python★ 865↓ 5 844/міс8 жовт. 2026 р.
Apache-2.08 жовт. 2026 р. · метрики 2.10.0
npm
63Помірнийіндекс здоров'я
lloyal-ai/hdk
Harness Development Kit for Vertical Inference
TypeScript★ 2↓ 12.1K/міс8 вер. 2026 р.
Власна ліцензія8 вер. 2026 р. · метрики 2.10.0
PyPI
22У зоні ризикуіндекс здоров'я
nactttch/g2n
A torch.compile backend that pays attention: custom FX fusion passes, a Triton LayerNorm kernel, and a persistent compile cache. Apache-2.0 free core of the g2n platform.
Python★ 0↓ 2 377/міс15 вер. 2026 р.
Apache-2.015 вер. 2026 р. · метрики 2.10.0
PyPI · Maven
19Критичнийіндекс здоров'я
awslabs/multi-model-server
Multi Model Server is a tool for serving neural net models for inference
Java · Python★ 1 023↓ 352.2K/міс17 вер. 2026 р.
Apache-2.017 вер. 2026 р. · метрики 2.10.0