Alle Tags
Katalog-Tag

#on-device-ai

Alle Repositories im öffentlichen Register, die dieses Tag tragen — aus ihren GitHub-Topics oder den von ihren Paket-Registries veröffentlichten Schlagwörtern. Die Gesundheit wird nach derselben versionierten Methodik gemessen wie im übrigen Register.

12 Einträge
Getaggt als „on-device-ai“Geordnet nach Gesundheitsindex
npm
97AußergewöhnlichGesundheitsindex
software-mansion/react-native-executorch
High-performance, privacy-first on-device AI inference library for React Native, powered by PyTorch's ExecuTorch runtime
TypeScript · C++★ 1.765↓ 96.5K/Monat17. Okt. 2026
Eigene Lizenz17. Okt. 2026 · Metriken 2.10.0
Go
95AußergewöhnlichGesundheitsindex
qualcomm/GenieX
Run frontier LLMs and VLMs locally on Qualcomm devices across NPU, GPU, and CPU with a few lines of code
Rust · Go · C++★ 8.32928. Aug. 2026
BSD-3-Clause28. Aug. 2026 · Metriken 2.10.0
npm
95AußergewöhnlichGesundheitsindex
tetherto/qvac
Open-source local AI SDK - run AI on-device with no cloud, no API keys. Supports GGUF, RAG, image, music, and video generation, speech-to-text, P2P inference, and more. Cross-platform: Linux, macOS, Windows, Android, iOS.
TypeScript · JavaScript · C++★ 597↓ 202.1K/Monat10. Sept. 2026
Apache-2.010. Sept. 2026 · Metriken 2.10.0
PyPI · npm
87ExzellentGesundheitsindex
rajveer43/VeloxQuant-MLX
Fast KV-cache quantization for Apple Silicon (MLX) — 43 research-adapted compression methods with Metal kernels
Python★ 32↓ 14.1K/Monat21. Okt. 2026
MIT21. Okt. 2026 · Metriken 2.10.0
crates.io · npm · PyPI
86ExzellentGesundheitsindex
google-ai-edge/LiteRT-LM
LiteRT-LM is Google's production-ready, high-performance, open-source inference framework for deploying Large Language Models on edge devices.
C++★ 6.30328. Aug. 2026
Apache-2.028. Aug. 2026 · Metriken 2.10.0
npm
84ExzellentGesundheitsindex
capawesome-team/capacitor-mlkit
⚡️ ML Kit plugins for Capacitor. Supports Android and iOS.
Java · Swift · TypeScript★ 216↓ 740.9K/Monat20. Okt. 2026
Apache-2.020. Okt. 2026 · Metriken 2.10.0
npm · Maven
78GutGesundheitsindex
hung-yueh/react-native-litert-lm
High-performance on-device LLM inference for React Native, powered by LiteRT-LM and Nitro Modules
C++ · TypeScript · HTML★ 59↓ 3.589/Monat13. Sept. 2026
MIT13. Sept. 2026 · Metriken 2.10.0
PyPI
63MittelGesundheitsindex
mizorewww/laya-coreml
Local Laya typed decisions on Apple Core ML and Neural Engine. Validated ports, ~5 ms short decisions on M3 Max, reproducible speed and energy benchmarks.
Python★ 1.567↓ 2.468/Monat10. Okt. 2026
Apache-2.010. Okt. 2026 · Metriken 2.10.0
PyPI · npm · crates.io
54MittelGesundheitsindex
JunHwan-Kwon/deepbom
Local static analysis and evidence generation for deployed AI model artifacts
JavaScript · Rust★ 2↓ 8.091/Monat21. Okt. 2026
Apache-2.021. Okt. 2026 · Metriken 2.10.0
PyPI
51MittelGesundheitsindex
thisisthepy/torchnative
Run the real PyTorch ecosystem on device, not reimplementing it
Rust · Python★ 3↓ 4.021/Monat18. Sept. 2026
Apache-2.018. Sept. 2026 · Metriken 2.10.0
npm
42SchwachGesundheitsindex
stfurkan/bitgpu
Fast WebGPU runtime for 1-bit (binary-weight) LLMs in the browser. Bit-exact, zero runtime dependencies.
TypeScript · WGSL · Python★ 27↓ 204/Monat14. Sept. 2026
MIT14. Sept. 2026 · Metriken 2.10.0
Go
27GefährdetGesundheitsindex
VoxRT/voxrt-kws-linux
On-device 14-way keyword spotter for Linux x86_64 + aarch64 — one glibc-2.17 .so behind Python (PyPI), Node.js (npm), Go (go get), C / C++ (tarball + CMake). Streaming Conformer, RTF 1 % on WSL AVX2, 32 % on Pi Zero 2 W NEON. Same runtime as voxrt-kws-{android,ios} (upcoming).
Go · C★ 915. Sept. 2026
Apache-2.015. Sept. 2026 · Metriken 2.10.0