Katalog-Tag

#gptq

Alle Repositories im öffentlichen Register, die dieses Tag tragen — aus ihren GitHub-Topics oder den von ihren Paket-Registries veröffentlichten Schlagwörtern. Die Gesundheit wird nach derselben versionierten Methodik gemessen wie im übrigen Register.

3 Einträge

Getaggt als „gptq“Geordnet nach Gesundheitsindex

PyPI

96AußergewöhnlichGesundheitsindex

intel/neural-compressor

SOTA low-bit LLM quantization (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) & sparsity; leading model compression techniques on PyTorch, TensorFlow, and ONNX Runtime

Python★ 2.71228. Sept. 2026

Apache-2.028. Sept. 2026 · Metriken 2.10.0

PyPI

91ExzellentGesundheitsindex

ModelCloud/GPTQModel

LLM model quantization (compression) toolkit with HW acceleration support for Nvidia, AMD, Intel GPU and Intel/AMD/Apple CPU via HF, vLLM, and SGLang.

Python · Cuda★ 1.253↓ 28.2K/Monat10. Sept. 2026

Eigene Lizenz10. Sept. 2026 · Metriken 2.10.0

PyPI

78GutGesundheitsindex

Sahil170595/quantfit

Quantize an LLM and check it still refuses what it should — a GPU-aware quantization CLI that measures the safety drift of the quantization it just performed.

Python★ 1↓ 2.468/Monat12. Okt. 2026

Apache-2.012. Okt. 2026 · Metriken 2.10.0