PyPI · npm
modelscope/FunASR
Open-source speech recognition toolkit for training, inference, streaming ASR, VAD, punctuation, speaker diarization pipelines, and OpenAI-compatible/MCP serving.
MIT2026年8月5日 · 指标 2.10.0
全部标签
目录标签
#llama-cpp
公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。
27 条记录
npm
Nano-Collective/nanocoder
An open coding agent for your terminal, built by a community collective rather than a company. Bring your own model, keep your code on your machine, and owe nothing to anyone.
自定义许可证2026年8月25日 · 指标 2.10.0
npm
juspay/neurolink
One TypeScript interface for 24+ LLM providers — swap providers without rewriting. MCP-native (58+ servers), voice (TTS/STT/realtime), RAG, memory, file processors. Production-origin: powers Tara, Yama, and Clairvoyance at Juspay.
MIT2026年7月17日 · 指标 2.10.0
NuGet
SciSharp/LLamaSharp
A C#/.NET library to run LLM (🦙LLaMA/LLaVA) on your local device efficiently.
MIT2026年7月18日 · 指标 2.10.0
Go
defilantech/LLMKube
Kubernetes operator for self-hosted LLM inference across a heterogeneous GPU fleet: NVIDIA CUDA, AMD Vulkan, and Apple Silicon Metal. Runtimes: llama.cpp, vLLM, TGI, mlx-server. Multi-GPU sharding, model caching, OpenAI-compatible endpoints. Apache-2.0, run across homelab and on-prem fleets, actively developed.
Apache-2.02026年9月5日 · 指标 2.10.0
npm
withcatai/node-llama-cpp
Run AI models locally on your machine with node.js bindings for llama.cpp. Enforce a JSON schema on the model output on the generation level
MIT2026年8月27日 · 指标 2.10.0
Go
gpustack/gguf-parser-go
Review/Check GGUF files and estimate the memory usage and maximum tokens per second.
MIT2026年9月5日 · 指标 2.10.0
npm · Maven
mybigday/llama.rn
React Native binding of llama.cpp
MIT2026年7月17日 · 指标 2.10.0
PyPI
Sahil170595/Chimeraforge
PyPI capacity-planning CLI for LLM deployment. pip install chimeraforge.
MIT2026年8月22日 · 指标 2.10.0
npm
jcode-works/jcode-ragmir
Confidential local RAG for your coding agents.
AGPL-3.02026年7月26日 · 指标 2.10.0
npm
mybigday/llama.node
Node.js binding of llama.cpp
无许可证2026年7月25日 · 指标 2.10.0
Go
aimd54/palan
Pull, push, pack, and serve GGUF models as OCI ModelPack artifacts — daemonless, air-gap-first, one binary
Apache-2.02026年7月17日 · 指标 2.10.0
PyPI · crates.io
FedericoTs/quantprobe
Run a 110B on a 2016 PC with 16 GB RAM. Know your tok/s before you download. Placement beats budget: predicts speed + memory fit for any GGUF on your exact hardware, self-calibrates, emits the exact llama.cpp command — or 'quantprobe auto' does it all. Falsification-tested laws; misses published at full size. pip install quantprobe
MIT2026年8月20日 · 指标 2.10.0
npm
yoloshii/ClawMem
On-device memory layer for AI agents. Claude Code, Hermes and OpenClaw. Hooks + MCP server + hybrid RAG search.
MIT2026年7月25日 · 指标 2.10.0
npm
IBazylchuk/paparats-mcp
Local‑first MCP server for multi‑repository semantic code search with Qdrant and llama. Turns your entire workspace into private context for AI coding assistants like Claude Code, Codex, Cursor, Copilot, Antigravity and Windsurf.
MIT2026年7月18日 · 指标 2.10.0
Go
tearingItUp786/chatgpt-tui
A portable terminal AI interface
MIT2026年7月17日 · 指标 2.10.0
Go
tearingItUp786/nekot
A portable terminal AI interface
MIT2026年7月17日 · 指标 2.10.0
npm
therealtimex/node-llama-cpp
Run AI models locally on your machine with node.js bindings for llama.cpp. Enforce a JSON schema on the model output on the generation level
MIT2026年7月17日 · 指标 2.10.0
npm
egonSchiele/smoltalk
Wrapper for LLM APIs
无许可证2026年8月4日 · 指标 2.10.0
Go
airiclenz/apogee
Terminal coding agent for local LLMs (llama.cpp, Ollama, vLLM) and any OpenAI-compatible API. OS-sandboxed autonomy, MCP, sessions. Go.
MIT2026年8月21日 · 指标 2.10.0
npm
mohitsoni48/TurboLLM
Run any local LLM engine, auto-tuned to your GPU — polished web UI + OpenAI/Anthropic-compatible API. Point Claude Code at your own machine in one command. No Electron, no Python, offline-first.
无许可证2026年7月16日 · 指标 2.10.0
PyPI
danaug23/harness-arena
Your model, many harnesses, many benchmarks.
Apache-2.02026年8月23日 · 指标 2.10.0
Go
spencerbull/Yokai
Terminal-first GPU fleet manager for deploying, monitoring, and managing vLLM, llama.cpp, and ComfyUI workloads.
MIT2026年8月16日 · 指标 2.10.0
npm · crates.io · Maven
arusatech/llama-cpp-pro
Llama cpp + CapacitorJS support
MIT2026年7月31日 · 指标 2.10.0
npm
gsanhueza/pi-llama-cpp
Pi extension for llama.cpp integration
MIT2026年7月27日 · 指标 2.10.0
npm
lloyal-ai/reasoning-run
A private reasoner for your terminal. Direct conversation or grounded multi-agent research, GPU-native and fully local. No API keys, no inference servers.
MIT2026年7月19日 · 指标 2.10.0
npm
eeshansrivastava89/offgrid-ai
Privacy-first CLI for running local LLMs — discover, configure, run, benchmark
无许可证2026年7月17日 · 指标 2.10.0