npm
software-mansion/react-native-executorch
High-performance, privacy-first on-device AI inference library for React Native, powered by PyTorch's ExecuTorch runtime
自定义许可证2026年10月17日 · 指标 2.10.0
全部标签
目录标签
#on-device-ai
公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。
12 条记录
Go
qualcomm/GenieX
Run frontier LLMs and VLMs locally on Qualcomm devices across NPU, GPU, and CPU with a few lines of code
BSD-3-Clause2026年8月28日 · 指标 2.10.0
npm
tetherto/qvac
Open-source local AI SDK - run AI on-device with no cloud, no API keys. Supports GGUF, RAG, image, music, and video generation, speech-to-text, P2P inference, and more. Cross-platform: Linux, macOS, Windows, Android, iOS.
Apache-2.02026年9月10日 · 指标 2.10.0
PyPI · npm
rajveer43/VeloxQuant-MLX
Fast KV-cache quantization for Apple Silicon (MLX) — 43 research-adapted compression methods with Metal kernels
MIT2026年10月21日 · 指标 2.10.0
crates.io · npm · PyPI
google-ai-edge/LiteRT-LM
LiteRT-LM is Google's production-ready, high-performance, open-source inference framework for deploying Large Language Models on edge devices.
Apache-2.02026年8月28日 · 指标 2.10.0
npm
capawesome-team/capacitor-mlkit
⚡️ ML Kit plugins for Capacitor. Supports Android and iOS.
Apache-2.02026年10月20日 · 指标 2.10.0
npm · Maven
hung-yueh/react-native-litert-lm
High-performance on-device LLM inference for React Native, powered by LiteRT-LM and Nitro Modules
MIT2026年9月13日 · 指标 2.10.0
PyPI
mizorewww/laya-coreml
Local Laya typed decisions on Apple Core ML and Neural Engine. Validated ports, ~5 ms short decisions on M3 Max, reproducible speed and energy benchmarks.
Apache-2.02026年10月10日 · 指标 2.10.0
PyPI · npm · crates.io
JunHwan-Kwon/deepbom
Local static analysis and evidence generation for deployed AI model artifacts
Apache-2.02026年10月21日 · 指标 2.10.0
PyPI
thisisthepy/torchnative
Run the real PyTorch ecosystem on device, not reimplementing it
Apache-2.02026年9月18日 · 指标 2.10.0
npm
stfurkan/bitgpu
Fast WebGPU runtime for 1-bit (binary-weight) LLMs in the browser. Bit-exact, zero runtime dependencies.
MIT2026年9月14日 · 指标 2.10.0
Go
VoxRT/voxrt-kws-linux
On-device 14-way keyword spotter for Linux x86_64 + aarch64 — one glibc-2.17 .so behind Python (PyPI), Node.js (npm), Go (go get), C / C++ (tarball + CMake). Streaming Conformer, RTF 1 % on WSL AVX2, 32 % on Pi Zero 2 W NEON. Same runtime as voxrt-kws-{android,ios} (upcoming).
Apache-2.02026年9月15日 · 指标 2.10.0