Todas las etiquetas
Etiqueta del catálogo

#inference

Todos los repositorios del registro público que llevan esta etiqueta, procedente de sus topics de GitHub o de las palabras clave que publican sus registros de paquetes. La salud se mide con la misma metodología versionada que el resto del registro.

106 registros
Con la etiqueta «inference»Ordenado por índice de salud
Go
56Moderadoíndice de salud
wentbackward/llm-proxy
A superfast proxy and smart load-balancer for AI Inference — virtualize models, share local and provider back-ends, optimal caching, lock-in sampling parameters, debug message flow and obtain OTel metrics
Go★ 817 jul 2026
MIT17 jul 2026 · métricas 2.10.0
PyPI
53Moderadoíndice de salud
h2non/filetype.py
Small, dependency-free, fast Python package to infer binary file types checking the magic numbers signature
Python★ 76917 jul 2026
MIT17 jul 2026 · métricas 2.10.0
PyPI
51Moderadoíndice de salud
ToPo-ToPo-ToPo/local-llm-server
ローカルLLM（mlx / mlx-vlm / llama.cpp / router）を OpenAI 互換 API として起動・管理する軽量サーバー
Python★ 0↓ 4302/mes19 jul 2026
Apache-2.019 jul 2026 · métricas 2.10.0
NuGet
50Moderadoíndice de salud
mdesalvo/OWLSharp
Lightweight and friendly .NET library for realizing modern Semantic Web applications (OWL2, SWRL)
C#★ 1622 jul 2026
Apache-2.022 jul 2026 · métricas 2.10.0
Go
50Moderadoíndice de salud
thalesfsp/inference
Provides building blocks to integrate with AI / LLM providers and built-in, common, providers.
Go★ 017 jul 2026
MIT17 jul 2026 · métricas 2.10.0
npm
47Débilíndice de salud
stfurkan/bitgpu
Fast WebGPU runtime for 1-bit (binary-weight) LLMs in the browser. Bit-exact, zero runtime dependencies.
TypeScript · WGSL · Python★ 19↓ 3349/mes31 jul 2026
MIT31 jul 2026 · métricas 2.10.0
PyPI
45Débilíndice de salud
mihir0209/AI_engine
Free AI inference router for developers - 21 providers, OpenAI-compatible
Python★ 4↓ 10.8K/mes14 jul 2026
MIT14 jul 2026 · métricas 2.10.0
PyPI
42Débilíndice de salud
llaa33219/outo-llms
Deploy local LLMs behind your own managed API server - vLLM or llama.cpp in isolated environments, API keys, workspaces, usage tracking
Python · JavaScript · CSS★ 0↓ 2686/mes24 jul 2026
Apache-2.024 jul 2026 · métricas 2.10.0
Packagist
34En riesgoíndice de salud
JetBrains/phpstorm-stubs
PHP runtime & extensions header files for PhpStorm
PHP★ 1394↓ 2.2M/mes27 ago 2026
Apache-2.027 ago 2026 · métricas 2.10.0
npm · crates.io
34En riesgoíndice de salud
compose-market/sdk
El repositorio no publica descripción.
TypeScript★ 0↓ 1662/mes5 sept 2026
MIT5 sept 2026 · métricas 2.10.0
PyPI
34En riesgoíndice de salud
openvinotoolkit/openvino
OpenVINO™ is an open source toolkit for optimizing and deploying AI inference
C++★ 10.6K12 ago 2026
Apache-2.012 ago 2026 · métricas 2.10.0
PyPI
28En riesgoíndice de salud
Saganaki22/MisoTTS-ComfyUI
Miso TTS 8B nodes for ComfyUI - Sesame-style CSM text-to-speech with Mimi audio tokens, optional reference-audio continuation, Whisper transcription, and Aimdo/VRAM-management integration.
Python★ 74 ago 2026
MIT4 ago 2026 · métricas 2.10.0
PyPI
21En riesgoíndice de salud
declare-lab/reccon
This repository contains the dataset and the PyTorch implementations of the models from the paper Recognizing Emotion Cause in Conversations.
Python★ 19015 jul 2026
Sin licencia15 jul 2026 · métricas 2.10.0
PyPI
21En riesgoíndice de salud
nactttch/g2n
A torch.compile backend that pays attention: custom FX fusion passes, a Triton LayerNorm kernel, and a persistent compile cache. Apache-2.0 free core of the g2n platform.
Python★ 0↓ 2377/mes1 ago 2026
Apache-2.01 ago 2026 · métricas 2.10.0
PyPI · Maven
19Críticoíndice de salud
awslabs/multi-model-server
Multi Model Server is a tool for serving neural net models for inference
Java · Python★ 1024↓ 352.2K/mes13 ago 2026
Apache-2.013 ago 2026 · métricas 2.10.0