Тег каталогу

#quantization

Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.

47 записів

З тегом «quantization»Упорядковано за індексом здоров'я

PyPI

67Добрийіндекс здоров'я

google-ai-edge/LiteRT-CLI

A convenient CLI to streamline LiteRT related development workflows, including converting, quantizing, compiling, managing, running, benchmarking and visualizing LiteRT (TFLite) models on various hardwares (CPU / GPU / NPU) across platforms (desktop, mobile or cloud).

Python★ 41↓ 80/міс8 вер. 2026 р.

Apache-2.08 вер. 2026 р. · метрики 2.10.0

PyPI

67Добрийіндекс здоров'я

pjordanandrsn/grouped-nf4-gemm

Triton kernels for 4-bit MoE inference: grouped NF4/MXFP4 GEMM, INT4 GEMV, FP8 paged attention, and CPU/NVMe expert streaming.

Python★ 2↓ 3 717/міс24 вер. 2026 р.

MIT24 вер. 2026 р. · метрики 2.10.0

PyPI

65Добрийіндекс здоров'я

SYSTRAN/faster-whisper

Faster Whisper transcription with CTranslate2

Python★ 25.4K↓ 8.7M/міс16 вер. 2026 р.

MIT16 вер. 2026 р. · метрики 2.10.0

PyPI

65Добрийіндекс здоров'я

asher/gmlx

Local inference platform for K/IQ-quant GGUF models on Apple Silicon

Python★ 31↓ 2 075/міс25 вер. 2026 р.

Власна ліцензія25 вер. 2026 р. · метрики 2.10.0

PyPI

63Помірнийіндекс здоров'я

jagmarques/nexusquant

Training-free KV cache compression via E8 lattice VQ. 2-bit KV that preserves retrieval (30/30 NIAH vs TurboQuant 0/30). Calibration-free, 9 architectures validated.

Python★ 2516 лип. 2026 р.

Власна ліцензія16 лип. 2026 р. · метрики 2.10.0

PyPI

62Помірнийіндекс здоров'я

RobTand/gridbook

Out-of-tree vLLM plugin and open format spec for NVFP4-CB / FP8-CB product-codebook weights — 2-6 bit-per-weight LLM quantization served on native Blackwell tensor cores.

Python · Cuda★ 12↓ 1 474/міс18 вер. 2026 р.

Apache-2.018 вер. 2026 р. · метрики 2.10.0

PyPI

60Помірнийіндекс здоров'я

manunicholasjacob/llama-roofline

Is your llama.cpp decode memory-bandwidth-bound? Find out in one command.

Python★ 1↓ 12.4K/міс13 жовт. 2026 р.

MIT13 жовт. 2026 р. · метрики 2.10.0

PyPI

59Помірнийіндекс здоров'я

jjang-ai/jangq

JANG — GGUF for MLX. YOU MUST USE JANG_Q RUNTIME. Adaptive Mixed-Precision Quantization + Runtime for Apple Silicon

Python · Swift★ 225↓ 1 557/міс13 вер. 2026 р.

Без ліцензії13 вер. 2026 р. · метрики 2.10.0

PyPI · npm · crates.io

54Помірнийіндекс здоров'я

JunHwan-Kwon/deepbom

Local static analysis and evidence generation for deployed AI model artifacts

JavaScript · Rust★ 2↓ 8 091/міс21 жовт. 2026 р.

Apache-2.021 жовт. 2026 р. · метрики 2.10.0

npm

54Помірнийіндекс здоров'я

mkbabb/value.js

CSS value units for color, length, angles, & c.

TypeScript★ 0↓ 156/міс12 вер. 2026 р.

MIT12 вер. 2026 р. · метрики 2.10.0

crates.io

42Слабкийіндекс здоров'я

RecursiveIntell/turbo-quant

Experimental Rust vector-compression sidecars implementing TurboQuant (ICLR 2026), PolarQuant and QJL research primitives, with exact reranking and workload-scoped benchmark receipts.

Rust · Python★ 26↓ 2 127/міс20 жовт. 2026 р.

MIT20 жовт. 2026 р. · метрики 2.10.0

npm

42Слабкийіндекс здоров'я

stfurkan/bitgpu

Fast WebGPU runtime for 1-bit (binary-weight) LLMs in the browser. Bit-exact, zero runtime dependencies.

TypeScript · WGSL · Python★ 27↓ 204/міс14 вер. 2026 р.

MIT14 вер. 2026 р. · метрики 2.10.0

NuGet

38Слабкийіндекс здоров'я

curiosity-ai/sentence-transformers-sharp

Опис репозиторію не опубліковано.

C#★ 257 жовт. 2026 р.

Без ліцензії7 жовт. 2026 р. · метрики 2.10.0

PyPI

38Слабкийіндекс здоров'я

fermionresearch/phonon

Phonon: open speech recognition models (Phonon-2, Phonon-1) — CLI, CPU and CUDA images

Python★ 25820 жовт. 2026 р.

Apache-2.020 жовт. 2026 р. · метрики 2.10.0

NuGet

29У зоні ризикуіндекс здоров'я

opentail-net/Transformations

TBC

C#★ 010 жовт. 2026 р.

Без ліцензії10 жовт. 2026 р. · метрики 2.10.0

PyPI

22У зоні ризикуіндекс здоров'я

nactttch/g2n

A torch.compile backend that pays attention: custom FX fusion passes, a Triton LayerNorm kernel, and a persistent compile cache. Apache-2.0 free core of the g2n platform.

Python★ 0↓ 2 377/міс15 вер. 2026 р.

Apache-2.015 вер. 2026 р. · метрики 2.10.0

PyPI

19Критичнийіндекс здоров'я

blue-oil/blueoil

Bring Deep Learning to small devices

Python · C++★ 24711 вер. 2026 р.

Apache-2.011 вер. 2026 р. · метрики 2.10.0