全部标签
目录标签

#continuous-batching

公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。

1 条记录
标签为“continuous-batching”按健康指数排序
PyPI
91优秀健康指数
waybarrios/vllm-mlx
High-performance OpenAI and Anthropic compatible LLM inference server for Apple Silicon. Native MLX, continuous batching, multimodal models, MCP tool calling, and Claude Code support.
Python★ 1,626↓ 5,191/月2026年10月20日
Apache-2.02026年10月20日 · 指标 2.10.0