Усі теги
Тег каталогу

#on-device-ai

Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.

12 записів
З тегом «on-device-ai»Упорядковано за індексом здоров'я
npm
97Винятковийіндекс здоров'я
software-mansion/react-native-executorch
High-performance, privacy-first on-device AI inference library for React Native, powered by PyTorch's ExecuTorch runtime
TypeScript · C++★ 1 765↓ 96.5K/міс17 жовт. 2026 р.
Власна ліцензія17 жовт. 2026 р. · метрики 2.10.0
Go
95Винятковийіндекс здоров'я
qualcomm/GenieX
Run frontier LLMs and VLMs locally on Qualcomm devices across NPU, GPU, and CPU with a few lines of code
Rust · Go · C++★ 8 32928 серп. 2026 р.
BSD-3-Clause28 серп. 2026 р. · метрики 2.10.0
npm
95Винятковийіндекс здоров'я
tetherto/qvac
Open-source local AI SDK - run AI on-device with no cloud, no API keys. Supports GGUF, RAG, image, music, and video generation, speech-to-text, P2P inference, and more. Cross-platform: Linux, macOS, Windows, Android, iOS.
TypeScript · JavaScript · C++★ 597↓ 202.1K/міс10 вер. 2026 р.
Apache-2.010 вер. 2026 р. · метрики 2.10.0
PyPI · npm
87Відміннийіндекс здоров'я
rajveer43/VeloxQuant-MLX
Fast KV-cache quantization for Apple Silicon (MLX) — 43 research-adapted compression methods with Metal kernels
Python★ 32↓ 14.1K/міс21 жовт. 2026 р.
MIT21 жовт. 2026 р. · метрики 2.10.0
crates.io · npm · PyPI
86Відміннийіндекс здоров'я
google-ai-edge/LiteRT-LM
LiteRT-LM is Google's production-ready, high-performance, open-source inference framework for deploying Large Language Models on edge devices.
C++★ 6 30328 серп. 2026 р.
Apache-2.028 серп. 2026 р. · метрики 2.10.0
npm
84Відміннийіндекс здоров'я
capawesome-team/capacitor-mlkit
⚡️ ML Kit plugins for Capacitor. Supports Android and iOS.
Java · Swift · TypeScript★ 216↓ 740.9K/міс20 жовт. 2026 р.
Apache-2.020 жовт. 2026 р. · метрики 2.10.0
npm · Maven
78Добрийіндекс здоров'я
hung-yueh/react-native-litert-lm
High-performance on-device LLM inference for React Native, powered by LiteRT-LM and Nitro Modules
C++ · TypeScript · HTML★ 59↓ 3 589/міс13 вер. 2026 р.
MIT13 вер. 2026 р. · метрики 2.10.0
PyPI
63Помірнийіндекс здоров'я
mizorewww/laya-coreml
Local Laya typed decisions on Apple Core ML and Neural Engine. Validated ports, ~5 ms short decisions on M3 Max, reproducible speed and energy benchmarks.
Python★ 1 567↓ 2 468/міс10 жовт. 2026 р.
Apache-2.010 жовт. 2026 р. · метрики 2.10.0
PyPI · npm · crates.io
54Помірнийіндекс здоров'я
JunHwan-Kwon/deepbom
Local static analysis and evidence generation for deployed AI model artifacts
JavaScript · Rust★ 2↓ 8 091/міс21 жовт. 2026 р.
Apache-2.021 жовт. 2026 р. · метрики 2.10.0
PyPI
51Помірнийіндекс здоров'я
thisisthepy/torchnative
Run the real PyTorch ecosystem on device, not reimplementing it
Rust · Python★ 3↓ 4 021/міс18 вер. 2026 р.
Apache-2.018 вер. 2026 р. · метрики 2.10.0
npm
42Слабкийіндекс здоров'я
stfurkan/bitgpu
Fast WebGPU runtime for 1-bit (binary-weight) LLMs in the browser. Bit-exact, zero runtime dependencies.
TypeScript · WGSL · Python★ 27↓ 204/міс14 вер. 2026 р.
MIT14 вер. 2026 р. · метрики 2.10.0
Go
27У зоні ризикуіндекс здоров'я
VoxRT/voxrt-kws-linux
On-device 14-way keyword spotter for Linux x86_64 + aarch64 — one glibc-2.17 .so behind Python (PyPI), Node.js (npm), Go (go get), C / C++ (tarball + CMake). Streaming Conformer, RTF 1 % on WSL AVX2, 32 % on Pi Zero 2 W NEON. Same runtime as voxrt-kws-{android,ios} (upcoming).
Go · C★ 915 вер. 2026 р.
Apache-2.015 вер. 2026 р. · метрики 2.10.0