目录标签

#serving

公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。

6 条记录

标签为“serving”按健康指数排序

Maven · PyPI

99卓越健康指数

Ray is an AI compute engine. Ray consists of a core distributed runtime and a set of AI Libraries for accelerating ML workloads.

Python · C++★ 43.8K2026年9月16日

Apache-2.02026年9月16日 · 指标 2.10.0

98卓越健康指数

volcano-sh/volcano

A Cloud Native Batch System (Project under CNCF)

Go★ 5,8822026年8月23日

Apache-2.02026年8月23日 · 指标 2.10.0

PyPI

94卓越健康指数

vllm-project/speculators

A unified library for building, evaluating, and storing speculative decoding algorithms for LLM inference in vLLM

Python★ 865↓ 5,844/月2026年10月8日

Apache-2.02026年10月8日 · 指标 2.10.0

npm

63中等健康指数

lloyal-ai/hdk

Harness Development Kit for Vertical Inference

TypeScript★ 2↓ 12.1K/月2026年9月8日

自定义许可证2026年9月8日 · 指标 2.10.0

PyPI

22存在风险健康指数

nactttch/g2n

A torch.compile backend that pays attention: custom FX fusion passes, a Triton LayerNorm kernel, and a persistent compile cache. Apache-2.0 free core of the g2n platform.

Python★ 0↓ 2,377/月2026年9月15日

Apache-2.02026年9月15日 · 指标 2.10.0

PyPI · Maven

19危急健康指数

awslabs/multi-model-server

Multi Model Server is a tool for serving neural net models for inference

Java · Python★ 1,023↓ 352.2K/月2026年9月17日

Apache-2.02026年9月17日 · 指标 2.10.0