crates.io · PyPI88优秀健康指数vllm-project/vllmA high-throughput and memory-efficient inference and serving engine for LLMsPython★ 86.1K↓ 0/月2026年7月13日Apache-2.02026年7月13日 · 指标 1.13.0
crates.io · PyPI82良好健康指数sgl-project/sglangSGLang is a high-performance serving framework for large language models and multimodal models.Python★ 30.3K↓ 274M/月2026年7月14日Apache-2.02026年7月14日 · 指标 1.13.0
PyPI73良好健康指数NVIDIA/cudnn-frontendcuDNN Frontend is NVIDIA's modern, open-source entry point to the cuDNN library and a growing collection of high-performance open-source kernels.Python · C++★ 8862026年7月21日MIT2026年7月21日 · 指标 1.13.0
PyPI · npm71良好健康指数lightseekorg/tokenspeedTokenSpeed is a speed-of-light LLM inference engine.Python★ 1,639↓ 1.7M/月2026年7月21日MIT2026年7月21日 · 指标 1.13.0