Katalog-Tag

#gpu-offload

Alle Repositories im öffentlichen Register, die dieses Tag tragen — aus ihren GitHub-Topics oder den von ihren Paket-Registries veröffentlichten Schlagwörtern. Die Gesundheit wird nach derselben versionierten Methodik gemessen wie im übrigen Register.

2 Einträge

Getaggt als „gpu-offload“Geordnet nach Gesundheitsindex

PyPI

71GutGesundheitsindex

pjordanandrsn/experts4bit-qlora

Train and serve MoE models that do not fit in VRAM: fused 4-bit experts, QLoRA, CPU/NVMe offload, and fast inference on consumer NVIDIA GPUs.

Python★ 3↓ 2.064/Monat15. Sept. 2026

MIT15. Sept. 2026 · Metriken 2.10.0

PyPI

67GutGesundheitsindex

pjordanandrsn/grouped-nf4-gemm

Triton kernels for 4-bit MoE inference: grouped NF4/MXFP4 GEMM, INT4 GEMV, FP8 paged attention, and CPU/NVMe expert streaming.

Python★ 2↓ 3.717/Monat24. Sept. 2026

MIT24. Sept. 2026 · Metriken 2.10.0