Todas las etiquetas
Etiqueta del catálogo

#fp8

Todos los repositorios del registro público que llevan esta etiqueta, procedente de sus topics de GitHub o de las palabras clave que publican sus registros de paquetes. La salud se mide con la misma metodología versionada que el resto del registro.

5 registros
Con la etiqueta «fp8»Ordenado por índice de salud
PyPI
96Excepcionalíndice de salud
NVIDIA/cudnn-frontend
cuDNN Frontend is NVIDIA's modern, open-source entry point to the cuDNN library and a growing collection of high-performance open-source kernels.
Python★ 933↓ 3.7M/mes12 sept 2026
Apache-2.012 sept 2026 · métricas 2.10.0
PyPI
78Buenoíndice de salud
Sahil170595/quantfit
Quantize an LLM and check it still refuses what it should — a GPU-aware quantization CLI that measures the safety drift of the quantization it just performed.
Python★ 1↓ 2468/mes12 oct 2026
Apache-2.012 oct 2026 · métricas 2.10.0
PyPI
71Buenoíndice de salud
pjordanandrsn/experts4bit-qlora
Train and serve MoE models that do not fit in VRAM: fused 4-bit experts, QLoRA, CPU/NVMe offload, and fast inference on consumer NVIDIA GPUs.
Python★ 3↓ 2064/mes15 sept 2026
MIT15 sept 2026 · métricas 2.10.0
PyPI
67Buenoíndice de salud
pjordanandrsn/grouped-nf4-gemm
Triton kernels for 4-bit MoE inference: grouped NF4/MXFP4 GEMM, INT4 GEMV, FP8 paged attention, and CPU/NVMe expert streaming.
Python★ 2↓ 3717/mes24 sept 2026
MIT24 sept 2026 · métricas 2.10.0
PyPI
62Moderadoíndice de salud
RobTand/gridbook
Out-of-tree vLLM plugin and open format spec for NVFP4-CB / FP8-CB product-codebook weights — 2-6 bit-per-weight LLM quantization served on native Blackwell tensor cores.
Python · Cuda★ 12↓ 1474/mes18 sept 2026
Apache-2.018 sept 2026 · métricas 2.10.0