Python★ 11.3K↓ 3.3M/月2026年8月27日

xorbitsai/inferenceSwap GPT for any LLM by changing a single line of code. Xinference lets you run open-source, speech, and multimodal models on cloud, on-prem, or your laptop — all through one unified, production-ready inference API.
Python · TypeScript★ 9,579↓ 8,895/月2026年9月20日
Python★ 31.3K2026年9月16日

MakazhanAlpamys/SoupFine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.
Python★ 5,7942026年9月8日

NVIDIA/cudnn-frontendcuDNN Frontend is NVIDIA's modern, open-source entry point to the cuDNN library and a growing collection of high-performance open-source kernels.
Python★ 933↓ 3.7M/月2026年9月12日
Python★ 2,260↓ 24.4M/月2026年9月9日
Python · Cuda★ 8,442↓ 5.6M/月2026年8月27日

deepspeedai/DeepSpeedDeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.
Python · C++★ 43.1K↓ 1.1M/月2026年9月18日
Python · Jupyter Notebook★ 7,149↓ 88.5K/月2026年9月27日

iree-org/ireeA retargetable MLIR-based machine learning compiler and runtime toolkit.
C++ · C · MLIR★ 3,9862026年10月20日
Python★ 9952026年10月21日
Jupyter Notebook · Python★ 3,598↓ 462.6K/月2026年9月14日
Python★ 50.8K↓ 1.4M/月2026年9月17日

sbi-dev/sbisbi is a Python package for simulation-based inference, designed to meet the needs of both researchers and practitioners. Whether you need fine-grained control or an easy-to-use interface, sbi has you covered.
Python★ 860↓ 21.8K/月2026年9月12日
PyPI · Go · Maven95卓越健康指数

ayutaz/piper-plusMultilingual neural TTS (6 languages: JA/EN/ZH/ES/FR/PT, code supports SV) — C++, C#, Rust, Go, Python, npm (WASM). VITS + Prosody, streaming, CUDA/CoreML/DirectML. pip install piper-plus | npm install piper-plus | cargo install piper-plus-cli
Python · C++ · Rust★ 217↓ 3,618/月2026年9月30日

flagos-ai/FlagGemsFlagGems is an operator library for large language models implemented in the Triton Language.
Python★ 1,120↓ 1,589/月2026年9月14日
Rust★ 714↓ 2M/月2026年9月27日
Python★ 3,8122026年9月17日

ludwig-ai/ludwigLow-code framework for building custom LLMs, neural networks, and other AI models
Python★ 11.8K↓ 2,053/月2026年9月19日
Python★ 4,9922026年9月17日

tracel-ai/burnBurn is a next generation tensor library and Deep Learning Framework that doesn't compromise on flexibility, efficiency and portability.
Rust★ 15.9K↓ 747.6K/月2026年9月16日

AgileRL/AgileRLStreamlining reinforcement learning with RLOps. State-of-the-art RL algorithms and tools, with 10x faster training through evolutionary hyperparameter optimization.
Python★ 9512026年9月11日
Python★ 1,5722026年9月12日
Python★ 552↓ 13.8K/月2026年9月15日
Python · Jupyter Notebook★ 5,236↓ 308.2K/月2026年9月20日

deepinv/deepinvDeepInverse: a PyTorch library for solving imaging inverse problems using deep learning
Python★ 808↓ 4,843/月2026年9月13日
Python · C++★ 2,1432026年9月14日

huggingface/optimum🚀 Accelerate inference and training of 🤗 Transformers, Diffusers, TIMM and Sentence Transformers with easy to use hardware optimization tools
Python★ 3,486↓ 1.5M/月2026年9月12日

koda-ai-studio/agent-bomOpen security scanner and self-hosted control plane for AI, MCP, and cloud. One evidence model — run scans in your environment, centralize findings, govern in your VPC.
Python · TypeScript★ 32↓ 2,924/月2026年10月16日
Python · Jupyter Notebook★ 2,607↓ 10.9K/月2026年9月30日