Тег каталогу

#gpu-offloading

Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.

2 записи

З тегом «gpu-offloading»Упорядковано за індексом здоров'я

PyPI

71Добрийіндекс здоров'я

pjordanandrsn/experts4bit-qlora

Train and serve MoE models that do not fit in VRAM: fused 4-bit experts, QLoRA, CPU/NVMe offload, and fast inference on consumer NVIDIA GPUs.

Python★ 3↓ 2 064/міс15 вер. 2026 р.

MIT15 вер. 2026 р. · метрики 2.10.0

PyPI

67Добрийіндекс здоров'я

pjordanandrsn/grouped-nf4-gemm

Triton kernels for 4-bit MoE inference: grouped NF4/MXFP4 GEMM, INT4 GEMV, FP8 paged attention, and CPU/NVMe expert streaming.

Python★ 2↓ 3 717/міс24 вер. 2026 р.

MIT24 вер. 2026 р. · метрики 2.10.0