Тег каталогу

#on-device-llm

Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.

2 записи

З тегом «on-device-llm»Упорядковано за індексом здоров'я

PyPI · npm

87Відміннийіндекс здоров'я

rajveer43/VeloxQuant-MLX

Fast KV-cache quantization for Apple Silicon (MLX) — 43 research-adapted compression methods with Metal kernels

Python★ 32↓ 14.1K/міс21 жовт. 2026 р.

MIT21 жовт. 2026 р. · метрики 2.10.0

crates.io · npm · PyPI

86Відміннийіндекс здоров'я

google-ai-edge/LiteRT-LM

LiteRT-LM is Google's production-ready, high-performance, open-source inference framework for deploying Large Language Models on edge devices.

C++★ 6 30328 серп. 2026 р.

Apache-2.028 серп. 2026 р. · метрики 2.10.0