Maven · PyPI
ray-project/ray
Ray is an AI compute engine. Ray consists of a core distributed runtime and a set of AI Libraries for accelerating ML workloads.
Apache-2.016. Sept. 2026 · Metriken 2.10.0
Alle Tags
Katalog-Tag
#serving
Alle Repositories im öffentlichen Register, die dieses Tag tragen — aus ihren GitHub-Topics oder den von ihren Paket-Registries veröffentlichten Schlagwörtern. Die Gesundheit wird nach derselben versionierten Methodik gemessen wie im übrigen Register.
6 Einträge
Go
volcano-sh/volcano
A Cloud Native Batch System (Project under CNCF)
Apache-2.023. Aug. 2026 · Metriken 2.10.0
PyPI
vllm-project/speculators
A unified library for building, evaluating, and storing speculative decoding algorithms for LLM inference in vLLM
Apache-2.08. Okt. 2026 · Metriken 2.10.0
npm
lloyal-ai/hdk
Harness Development Kit for Vertical Inference
Eigene Lizenz8. Sept. 2026 · Metriken 2.10.0
PyPI
nactttch/g2n
A torch.compile backend that pays attention: custom FX fusion passes, a Triton LayerNorm kernel, and a persistent compile cache. Apache-2.0 free core of the g2n platform.
Apache-2.015. Sept. 2026 · Metriken 2.10.0
PyPI · Maven
awslabs/multi-model-server
Multi Model Server is a tool for serving neural net models for inference
Apache-2.017. Sept. 2026 · Metriken 2.10.0