PyPI96卓越健康指数MakazhanAlpamys/SoupFine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.Python★ 5,7942026年9月8日Apache-2.02026年9月8日 · 指标 2.10.0
PyPI96卓越健康指数bitsandbytes-foundation/bitsandbytesAccessible large language models via k-bit quantization for PyTorch.Python · Cuda★ 8,442↓ 5.6M/月2026年8月27日MIT2026年8月27日 · 指标 2.10.0
PyPI71良好健康指数lyogavin/airllmAirLLM 70B inference with single 4GB GPUJupyter Notebook★ 34.6K↓ 8,230/月2026年9月19日Apache-2.02026年9月19日 · 指标 2.10.0
PyPI71良好健康指数pjordanandrsn/experts4bit-qloraTrain and serve MoE models that do not fit in VRAM: fused 4-bit experts, QLoRA, CPU/NVMe offload, and fast inference on consumer NVIDIA GPUs.Python★ 3↓ 2,064/月2026年9月15日MIT2026年9月15日 · 指标 2.10.0
PyPI54中等健康指数Veedubin/AttackLMSecurity AI trainer/tuner and research toolkit. Fine-tune LLMs on MITRE ATT&CK-grounded data (QLoRA, GaLore, DeepSpeed, FP8, BitNet). 24K+ training pairs, 18 sources, 100% per-record provenance. Inversion-audit harness (Carlini 2021, 2022; MUSE 2024; LiRA). Terminal GUI for SSH use. 368+ tests.Python★ 1↓ 454/月2026年9月10日自定义许可证2026年9月10日 · 指标 2.10.0