deepset-ai/haystackOpen-source AI orchestration framework for building context-engineered, production-ready LLM applications. Design modular pipelines and agent workflows with explicit control over retrieval, routing, memory, and generation. Built for scalable agents, RAG, multimodal applications, semantic search, and conversational systems.
Python★ 26.5K2026年9月16日
huggingface/transformers🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.
Python★ 166.2K↓ 179M/月2026年9月16日
vllm-project/vllmA high-throughput and memory-efficient inference and serving engine for LLMs
Python★ 91.9K↓ 2.9M/月2026年9月16日
Python★ 17.9K↓ 263.7K/月2026年9月17日
Python · Jupyter Notebook★ 4,276↓ 178.8K/月2026年9月17日
pytorch/aoPyTorch native quantization for training and inference
Python · C++★ 3,0052026年10月18日
sgl-project/sglangSGLang is a high-performance serving framework for large language models and multimodal models.
Python★ 36K↓ 41.5M/月2026年9月16日
Python · C++★ 2,9332026年10月9日
NVIDIA/cudnn-frontendcuDNN Frontend is NVIDIA's modern, open-source entry point to the cuDNN library and a growing collection of high-performance open-source kernels.
Python★ 933↓ 3.7M/月2026年9月12日
JavaScript★ 3,138↓ 298M/月2026年9月16日
Python★ 13.8K↓ 1.8M/月2026年8月27日
ueberdosis/hocuspocusThe Yjs CRDT WebSocket backend for conflict-free real-time collaboration in your app.
TypeScript★ 2,573↓ 15.9M/月2026年9月6日
aws-amplify/amplify-category-api The AWS Amplify CLI is a toolchain for simplifying serverless web and mobile development. This plugin provides functionality for the API category, allowing for the creation and management of GraphQL and REST based backends for your amplify project.
TypeScript★ 94↓ 4.4M/月2026年10月20日
C++ · C★ 54.5K2026年10月18日
TypeScript★ 10↓ 157.4K/月2026年9月11日
microsoft/multilspymultilspy is a lsp client library in Python intended to be used to build applications around language servers.
Python★ 612↓ 38.3K/月2026年10月13日
TypeScript★ 7↓ 1.3M/月2026年10月21日
crates.io · npm · PyPI84优秀健康指数
Rust · Python★ 45↓ 42.9K/月2026年10月20日
Python★ 242026年9月15日
ahb-sjsu/turboquant-proConsumer-aware compression for embedding indexes and LLM KV caches — compress by the metric the downstream consumer actually uses. PCA-Matryoshka + TurboQuant (27x @ 99.8% recall@10), asymmetric K/V, CUDA/Triton kernels, vLLM plugin, replayable CI-gated claims. MIT.
Python · TeX★ 27↓ 306/月2026年10月21日
PHP★ 87↓ 388K/月2026年9月12日
helicalAI/helicalA framework for state-of-the-art pre-trained bio foundation models on genomics and transcriptomics modalities.
Python★ 234↓ 999/月2026年10月20日
yoshitomo-matsubara/torchdistillA coding-free framework built on PyTorch for reproducible deep learning studies. PyTorch Ecosystem. 🏆26 knowledge distillation methods presented at TPAMI, CVPR, ICLR, ECCV, NeurIPS, ICCV, AAAI, etc are implemented so far. 🎁 Trained models, training logs and configurations are available for ensuring the reproducibiliy and benchmark.
Python★ 1,634↓ 311/月2026年10月19日
Go · TypeScript★ 328↓ 38.8K/月2026年9月11日
Python★ 304↓ 840/月2026年9月9日
JavaScript★ 90↓ 2.7M/月2026年10月21日
npm · crates.io · PyPI71良好健康指数
Rust★ 13↓ 7,573/月2026年9月6日
Elixir★ 1,667↓ 17.3K/月2026年9月9日
FlashML-org/FreeTokenFreeToken brings datacenter-scale model serving to your desktop. Run massive models locally, fast and efficiently.
Python★ 12.4K↓ 16.8K/月2026年9月10日
konvajs/vue-konvaVue components for the Konva 2d canvas library. Build interactive graphics, design editors, and whiteboards in Vue.
TypeScript★ 1,357↓ 304.9K/月2026年10月13日