Alle Tags
Katalog-Tag

#inference

Alle Repositories im öffentlichen Register, die dieses Tag tragen — aus ihren GitHub-Topics oder den von ihren Paket-Registries veröffentlichten Schlagwörtern. Die Gesundheit wird nach derselben versionierten Methodik gemessen wie im übrigen Register.

106 Einträge
Getaggt als „inference“Geordnet nach Gesundheitsindex
Go
56MittelGesundheitsindex
wentbackward/llm-proxy
A superfast proxy and smart load-balancer for AI Inference — virtualize models, share local and provider back-ends, optimal caching, lock-in sampling parameters, debug message flow and obtain OTel metrics
Go★ 817. Juli 2026
MIT17. Juli 2026 · Metriken 2.10.0
PyPI
53MittelGesundheitsindex
h2non/filetype.py
Small, dependency-free, fast Python package to infer binary file types checking the magic numbers signature
Python★ 76917. Juli 2026
MIT17. Juli 2026 · Metriken 2.10.0
PyPI
51MittelGesundheitsindex
ToPo-ToPo-ToPo/local-llm-server
ローカルLLM（mlx / mlx-vlm / llama.cpp / router）を OpenAI 互換 API として起動・管理する軽量サーバー
Python★ 0↓ 4.302/Monat19. Juli 2026
Apache-2.019. Juli 2026 · Metriken 2.10.0
NuGet
50MittelGesundheitsindex
mdesalvo/OWLSharp
Lightweight and friendly .NET library for realizing modern Semantic Web applications (OWL2, SWRL)
C#★ 1622. Juli 2026
Apache-2.022. Juli 2026 · Metriken 2.10.0
Go
50MittelGesundheitsindex
thalesfsp/inference
Provides building blocks to integrate with AI / LLM providers and built-in, common, providers.
Go★ 017. Juli 2026
MIT17. Juli 2026 · Metriken 2.10.0
npm
47SchwachGesundheitsindex
stfurkan/bitgpu
Fast WebGPU runtime for 1-bit (binary-weight) LLMs in the browser. Bit-exact, zero runtime dependencies.
TypeScript · WGSL · Python★ 19↓ 3.349/Monat31. Juli 2026
MIT31. Juli 2026 · Metriken 2.10.0
PyPI
45SchwachGesundheitsindex
mihir0209/AI_engine
Free AI inference router for developers - 21 providers, OpenAI-compatible
Python★ 4↓ 10.8K/Monat14. Juli 2026
MIT14. Juli 2026 · Metriken 2.10.0
PyPI
42SchwachGesundheitsindex
llaa33219/outo-llms
Deploy local LLMs behind your own managed API server - vLLM or llama.cpp in isolated environments, API keys, workspaces, usage tracking
Python · JavaScript · CSS★ 0↓ 2.686/Monat24. Juli 2026
Apache-2.024. Juli 2026 · Metriken 2.10.0
npm
38SchwachGesundheitsindex
OjasKord/local-model-suitability-mcp
Keine Repository-Beschreibung veröffentlicht.
JavaScript★ 0↓ 2.019/Monat26. Juli 2026
MIT26. Juli 2026 · Metriken 2.10.0
Packagist
34GefährdetGesundheitsindex
JetBrains/phpstorm-stubs
PHP runtime & extensions header files for PhpStorm
PHP★ 1.394↓ 2.2M/Monat27. Aug. 2026
Apache-2.027. Aug. 2026 · Metriken 2.10.0
npm · crates.io
34GefährdetGesundheitsindex
compose-market/sdk
Keine Repository-Beschreibung veröffentlicht.
TypeScript★ 0↓ 1.662/Monat5. Sept. 2026
MIT5. Sept. 2026 · Metriken 2.10.0
PyPI
34GefährdetGesundheitsindex
openvinotoolkit/openvino
OpenVINO™ is an open source toolkit for optimizing and deploying AI inference
C++★ 10.6K12. Aug. 2026
Apache-2.012. Aug. 2026 · Metriken 2.10.0
PyPI
28GefährdetGesundheitsindex
Saganaki22/MisoTTS-ComfyUI
Miso TTS 8B nodes for ComfyUI - Sesame-style CSM text-to-speech with Mimi audio tokens, optional reference-audio continuation, Whisper transcription, and Aimdo/VRAM-management integration.
Python★ 74. Aug. 2026
MIT4. Aug. 2026 · Metriken 2.10.0
PyPI
21GefährdetGesundheitsindex
declare-lab/reccon
This repository contains the dataset and the PyTorch implementations of the models from the paper Recognizing Emotion Cause in Conversations.
Python★ 19015. Juli 2026
Keine Lizenz15. Juli 2026 · Metriken 2.10.0
PyPI
21GefährdetGesundheitsindex
nactttch/g2n
A torch.compile backend that pays attention: custom FX fusion passes, a Triton LayerNorm kernel, and a persistent compile cache. Apache-2.0 free core of the g2n platform.
Python★ 0↓ 2.377/Monat1. Aug. 2026
Apache-2.01. Aug. 2026 · Metriken 2.10.0
PyPI · Maven
19KritischGesundheitsindex
awslabs/multi-model-server
Multi Model Server is a tool for serving neural net models for inference
Java · Python★ 1.024↓ 352.2K/Monat13. Aug. 2026
Apache-2.013. Aug. 2026 · Metriken 2.10.0