全部标签
目录标签

#inference-api

公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。

5 条记录
标签为“inference-api”按健康指数排序
PyPI · crates.io
98卓越健康指数
basetenlabs/truss
The simplest way to serve AI/ML models in production
Python · Rust★ 1,195↓ 966.4K/月2026年8月27日
MIT2026年8月27日 · 指标 2.10.0
PyPI
89优秀健康指数
qualcomm/ai-hub-models
Qualcomm® AI Hub Models is our collection of state-of-the-art machine learning models optimized for performance (latency, memory etc.) and ready to deploy on Qualcomm® devices.
Python★ 1,233↓ 6,732/月2026年10月21日
BSD-3-Clause2026年10月21日 · 指标 2.10.0
Go
88优秀健康指数
inference-gateway/inference-gateway
An open-source, cloud-native, high-performance gateway unifying multiple LLM providers, from local solutions like Ollama to major cloud providers such as OpenAI, Groq, Cohere, Anthropic, Cloudflare and DeepSeek.
Go★ 2122026年9月13日
Apache-2.02026年9月13日 · 指标 2.10.0
PyPI · npm
88优秀健康指数
roboflow/inference
Turn any computer or edge device into a command center for your computer vision projects.
Python★ 2,4802026年10月21日
自定义许可证2026年10月21日 · 指标 2.10.0
Go
51中等健康指数
mostlydev/cllama
The blood-brain barrier for autonomous agents. A context-aware LLM governance proxy that enforces credential starvation — identity-verified, provider-routed, cost-tracked, and audit-logged.
Go★ 12026年9月19日
无许可证2026年9月19日 · 指标 2.10.0