全部标签
目录标签

#on-device-ai

公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。

6 条记录
标签为“on-device-ai”按健康指数排序
Go
95卓越健康指数
qualcomm/GenieX
Run frontier LLMs and VLMs locally on Qualcomm devices across NPU, GPU, and CPU with a few lines of code
Rust · Go · C++★ 8,3292026年8月28日
BSD-3-Clause2026年8月28日 · 指标 2.10.0
crates.io · npm · PyPI
86优秀健康指数
google-ai-edge/LiteRT-LM
LiteRT-LM is Google's production-ready, high-performance, open-source inference framework for deploying Large Language Models on edge devices.
C++★ 6,3032026年8月28日
Apache-2.02026年8月28日 · 指标 2.10.0
npm · Maven
71良好健康指数
hung-yueh/react-native-litert-lm
High-performance on-device LLM inference for React Native, powered by LiteRT-LM and Nitro Modules
C++ · TypeScript · C★ 49↓ 2,239/月2026年7月24日
MIT2026年7月24日 · 指标 2.10.0
npm
63中等健康指数
yoloshii/ClawMem
On-device memory layer for AI agents. Claude Code, Hermes and OpenClaw. Hooks + MCP server + hybrid RAG search.
TypeScript★ 194↓ 3,556/月2026年7月25日
MIT2026年7月25日 · 指标 2.10.0
npm
47薄弱健康指数
stfurkan/bitgpu
Fast WebGPU runtime for 1-bit (binary-weight) LLMs in the browser. Bit-exact, zero runtime dependencies.
TypeScript · WGSL · Python★ 19↓ 3,349/月2026年7月31日
MIT2026年7月31日 · 指标 2.10.0
Go
27存在风险健康指数
VoxRT/voxrt-kws-linux
On-device 14-way keyword spotter for Linux x86_64 + aarch64 — one glibc-2.17 .so behind Python (PyPI), Node.js (npm), Go (go get), C / C++ (tarball + CMake). Streaming Conformer, RTF 1 % on WSL AVX2, 32 % on Pi Zero 2 W NEON. Same runtime as voxrt-kws-{android,ios} (upcoming).
Go · C★ 82026年8月1日
Apache-2.02026年8月1日 · 指标 2.10.0