Todas las etiquetas
Etiqueta del catálogo

#on-device-llm

Todos los repositorios del registro público que llevan esta etiqueta, procedente de sus topics de GitHub o de las palabras clave que publican sus registros de paquetes. La salud se mide con la misma metodología versionada que el resto del registro.

2 registros
Con la etiqueta «on-device-llm»Ordenado por índice de salud
PyPI · npm
87Excelenteíndice de salud
rajveer43/VeloxQuant-MLX
Fast KV-cache quantization for Apple Silicon (MLX) — 43 research-adapted compression methods with Metal kernels
Python★ 32↓ 14.1K/mes21 oct 2026
MIT21 oct 2026 · métricas 2.10.0
crates.io · npm · PyPI
86Excelenteíndice de salud
google-ai-edge/LiteRT-LM
LiteRT-LM is Google's production-ready, high-performance, open-source inference framework for deploying Large Language Models on edge devices.
C++★ 630328 ago 2026
Apache-2.028 ago 2026 · métricas 2.10.0