Katalog-Tag

#on-device-llm

Alle Repositories im öffentlichen Register, die dieses Tag tragen — aus ihren GitHub-Topics oder den von ihren Paket-Registries veröffentlichten Schlagwörtern. Die Gesundheit wird nach derselben versionierten Methodik gemessen wie im übrigen Register.

2 Einträge

Getaggt als „on-device-llm“Geordnet nach Gesundheitsindex

PyPI · npm

87ExzellentGesundheitsindex

rajveer43/VeloxQuant-MLX

Fast KV-cache quantization for Apple Silicon (MLX) — 43 research-adapted compression methods with Metal kernels

Python★ 32↓ 14.1K/Monat21. Okt. 2026

MIT21. Okt. 2026 · Metriken 2.10.0

crates.io · npm · PyPI

86ExzellentGesundheitsindex

google-ai-edge/LiteRT-LM

LiteRT-LM is Google's production-ready, high-performance, open-source inference framework for deploying Large Language Models on edge devices.

C++★ 6.30328. Aug. 2026

Apache-2.028. Aug. 2026 · Metriken 2.10.0