全部标签
目录标签

#inference-server

公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。

3 条记录
标签为“inference-server”按健康指数排序
PyPI · crates.io
98卓越健康指数
basetenlabs/truss
The simplest way to serve AI/ML models in production
Python · Rust★ 1,195↓ 966.4K/月2026年8月27日
MIT2026年8月27日 · 指标 2.10.0
PyPI · npm
92优秀健康指数
roboflow/inference
Turn any computer or edge device into a command center for your computer vision projects.
Python★ 2,4382026年9月5日
自定义许可证2026年9月5日 · 指标 2.10.0
PyPI
86优秀健康指数
jundot/omlx
LLM inference server with continuous batching & SSD caching for Apple Silicon — managed from the macOS menu bar
Python★ 21.8K2026年9月16日
Apache-2.02026年9月16日 · 指标 2.10.0