PyPI · crates.io
basetenlabs/truss
The simplest way to serve AI/ML models in production
MIT27 ago 2026 · métricas 2.10.0
Todas las etiquetas
Etiqueta del catálogo
#inference-server
Todos los repositorios del registro público que llevan esta etiqueta, procedente de sus topics de GitHub o de las palabras clave que publican sus registros de paquetes. La salud se mide con la misma metodología versionada que el resto del registro.
5 registros
PyPI
vllm-project/speculators
A unified library for building, evaluating, and storing speculative decoding algorithms for LLM inference in vLLM
Apache-2.08 oct 2026 · métricas 2.10.0
PyPI · npm
roboflow/inference
Turn any computer or edge device into a command center for your computer vision projects.
Licencia propia5 sept 2026 · métricas 2.10.0
PyPI
waybarrios/vllm-mlx
High-performance OpenAI and Anthropic compatible LLM inference server for Apple Silicon. Native MLX, continuous batching, multimodal models, MCP tool calling, and Claude Code support.
Apache-2.020 oct 2026 · métricas 2.10.0
PyPI
jundot/omlx
LLM inference server with continuous batching & SSD caching for Apple Silicon — managed from the macOS menu bar
Apache-2.016 sept 2026 · métricas 2.10.0