PyPI · crates.io
sgl-project/sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
Apache-2.02026年9月16日 · 指标 2.10.0
全部标签
目录标签
#attention
公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。
10 条记录
PyPI
flashinfer-ai/flashinfer
FlashInfer: Kernel Library for LLM Serving
Apache-2.02026年8月27日 · 指标 2.10.0
PyPI
NVIDIA/cudnn-frontend
cuDNN Frontend is NVIDIA's modern, open-source entry point to the cuDNN library and a growing collection of high-performance open-source kernels.
Apache-2.02026年9月12日 · 指标 2.10.0
PyPI
SHI-Labs/NATTEN
Fast Multi-dimensional Sparse Attention
MIT2026年9月19日 · 指标 2.10.0
PyPI
SmileLikeYe/agent-chief
Attention is your scarcest resource. Chief is the local-first layer that guards it — turning every agent, alert, and feed into one honest call: interrupt, or not.
MIT2026年9月12日 · 指标 2.10.0
PyPI
jagmarques/nexusquant
Training-free KV cache compression via E8 lattice VQ. 2-bit KV that preserves retrieval (30/30 NIAH vs TurboQuant 0/30). Calibration-free, 9 architectures validated.
自定义许可证2026年7月16日 · 指标 2.10.0
PyPI
Hai-Wenxiang/fusedtok
Fused CUDA kernels for LLM inference - RMSNorm / RoPE / SwiGLU
MIT2026年10月21日 · 指标 2.10.0
PyPI
mprahboamey/atom
optical attention via wave interference in holographic crystals verified to float precision. the math is done. contribute to build the hardware.star it, fork it, break it.
MIT2026年9月9日 · 指标 2.10.0
PyPI
mojolearn/mojolearn
GPU machine learning in Mojo that supports bitwise identical inference and training on Apple Metal, NVIDIA CUDA and AMD HIP.
Apache-2.02026年9月27日 · 指标 2.10.0
npm
twzrd-sol/wzrd-velocity
AI model velocity signals for Solana. Which models are moving right now.
MIT2026年9月18日 · 指标 2.10.0