Усі теги
Тег каталогу

#on-device-ai

Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.

6 записів
З тегом «on-device-ai»Упорядковано за індексом здоров'я
Go
95Винятковийіндекс здоров'я
qualcomm/GenieX
Run frontier LLMs and VLMs locally on Qualcomm devices across NPU, GPU, and CPU with a few lines of code
Rust · Go · C++★ 8 32928 серп. 2026 р.
BSD-3-Clause28 серп. 2026 р. · метрики 2.10.0
crates.io · npm · PyPI
86Відміннийіндекс здоров'я
google-ai-edge/LiteRT-LM
LiteRT-LM is Google's production-ready, high-performance, open-source inference framework for deploying Large Language Models on edge devices.
C++★ 6 30328 серп. 2026 р.
Apache-2.028 серп. 2026 р. · метрики 2.10.0
npm · Maven
71Добрийіндекс здоров'я
hung-yueh/react-native-litert-lm
High-performance on-device LLM inference for React Native, powered by LiteRT-LM and Nitro Modules
C++ · TypeScript · C★ 49↓ 2 239/міс24 лип. 2026 р.
MIT24 лип. 2026 р. · метрики 2.10.0
npm
63Помірнийіндекс здоров'я
yoloshii/ClawMem
On-device memory layer for AI agents. Claude Code, Hermes and OpenClaw. Hooks + MCP server + hybrid RAG search.
TypeScript★ 194↓ 3 556/міс25 лип. 2026 р.
MIT25 лип. 2026 р. · метрики 2.10.0
npm
47Слабкийіндекс здоров'я
stfurkan/bitgpu
Fast WebGPU runtime for 1-bit (binary-weight) LLMs in the browser. Bit-exact, zero runtime dependencies.
TypeScript · WGSL · Python★ 19↓ 3 349/міс31 лип. 2026 р.
MIT31 лип. 2026 р. · метрики 2.10.0
Go
27У зоні ризикуіндекс здоров'я
VoxRT/voxrt-kws-linux
On-device 14-way keyword spotter for Linux x86_64 + aarch64 — one glibc-2.17 .so behind Python (PyPI), Node.js (npm), Go (go get), C / C++ (tarball + CMake). Streaming Conformer, RTF 1 % on WSL AVX2, 32 % on Pi Zero 2 W NEON. Same runtime as voxrt-kws-{android,ios} (upcoming).
Go · C★ 81 серп. 2026 р.
Apache-2.01 серп. 2026 р. · метрики 2.10.0