PyPI · crates.io
sgl-project/sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
Apache-2.016 вер. 2026 р. · метрики 2.10.0
Усі теги
Тег каталогу
#attention
Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.
10 записів
PyPI
flashinfer-ai/flashinfer
FlashInfer: Kernel Library for LLM Serving
Apache-2.027 серп. 2026 р. · метрики 2.10.0
PyPI
NVIDIA/cudnn-frontend
cuDNN Frontend is NVIDIA's modern, open-source entry point to the cuDNN library and a growing collection of high-performance open-source kernels.
Apache-2.012 вер. 2026 р. · метрики 2.10.0
PyPI
SHI-Labs/NATTEN
Fast Multi-dimensional Sparse Attention
MIT19 вер. 2026 р. · метрики 2.10.0
PyPI
SmileLikeYe/agent-chief
Attention is your scarcest resource. Chief is the local-first layer that guards it — turning every agent, alert, and feed into one honest call: interrupt, or not.
MIT12 вер. 2026 р. · метрики 2.10.0
PyPI
jagmarques/nexusquant
Training-free KV cache compression via E8 lattice VQ. 2-bit KV that preserves retrieval (30/30 NIAH vs TurboQuant 0/30). Calibration-free, 9 architectures validated.
Власна ліцензія16 лип. 2026 р. · метрики 2.10.0
PyPI
Hai-Wenxiang/fusedtok
Fused CUDA kernels for LLM inference - RMSNorm / RoPE / SwiGLU
MIT21 жовт. 2026 р. · метрики 2.10.0
PyPI
mprahboamey/atom
optical attention via wave interference in holographic crystals verified to float precision. the math is done. contribute to build the hardware.star it, fork it, break it.
MIT9 вер. 2026 р. · метрики 2.10.0
PyPI
mojolearn/mojolearn
GPU machine learning in Mojo that supports bitwise identical inference and training on Apple Metal, NVIDIA CUDA and AMD HIP.
Apache-2.027 вер. 2026 р. · метрики 2.10.0
npm
twzrd-sol/wzrd-velocity
AI model velocity signals for Solana. Which models are moving right now.
MIT18 вер. 2026 р. · метрики 2.10.0