llama-cpp — 开源软件健康

npm

78良好健康指数

One TypeScript interface for 24+ LLM providers — swap providers without rewriting. MCP-native (58+ servers), voice (TTS/STT/realtime), RAG, memory, file processors. Production-origin: powers Tara, Yama, and Clairvoyance at Juspay.

TypeScript★ 110↓ 24.2K/月2026年7月17日

MIT2026年7月17日 · 指标 1.13.0

NuGet

75良好健康指数

SciSharp/LLamaSharp

A C#/.NET library to run LLM (🦙LLaMA/LLaVA) on your local device efficiently.

C# · JavaScript★ 3,7422026年7月18日

MIT2026年7月18日 · 指标 1.13.0

74良好健康指数

defilantech/llmkube

Kubernetes operator for self-hosted LLM inference across a heterogeneous GPU fleet: NVIDIA CUDA, AMD Vulkan, and Apple Silicon Metal. Runtimes: llama.cpp, vLLM, TGI, mlx-server. Multi-GPU sharding, model caching, OpenAI-compatible endpoints. Apache-2.0, run across homelab and on-prem fleets, actively developed.

Go★ 167↓ 0/月2026年7月14日

Apache-2.02026年7月14日 · 指标 1.13.0

npm · Maven

69中等健康指数

mybigday/llama.rn

React Native binding of llama.cpp

C++ · C★ 1,000↓ 57.2K/月2026年7月17日

MIT2026年7月17日 · 指标 1.13.0

62中等健康指数

gpustack/gguf-parser-go

Review/Check GGUF files and estimate the memory usage and maximum tokens per second.

Go★ 276↓ 0/月2026年7月14日

MIT2026年7月14日 · 指标 1.13.0

60中等健康指数

aimd54/palan

Pull, push, pack, and serve GGUF models as OCI ModelPack artifacts — daemonless, air-gap-first, one binary

Go★ 02026年7月17日

Apache-2.02026年7月17日 · 指标 1.13.0

59中等健康指数

tearingItUp786/chatgpt-tui

A portable terminal AI interface

Go★ 1972026年7月17日

MIT2026年7月17日 · 指标 1.13.0

59中等健康指数

tearingItUp786/nekot

A portable terminal AI interface

Go★ 1972026年7月17日

MIT2026年7月17日 · 指标 1.13.0

npm

59中等健康指数

therealtimex/node-llama-cpp

Run AI models locally on your machine with node.js bindings for llama.cpp. Enforce a JSON schema on the model output on the generation level

TypeScript★ 1↓ 41.2K/月2026年7月17日

MIT2026年7月17日 · 指标 1.13.0

npm

57中等健康指数

IBazylchuk/paparats-mcp

Local‑first MCP server for multi‑repository semantic code search with Qdrant and llama. Turns your entire workspace into private context for AI coding assistants like Claude Code, Codex, Cursor, Copilot, Antigravity and Windsurf.

TypeScript★ 102026年7月18日

MIT2026年7月18日 · 指标 1.13.0

57中等健康指数

thxcode/gguf-parser-go

Review/Check GGUF files and estimate the memory usage and maximum tokens per second.

Go★ 2762026年7月15日

MIT2026年7月15日 · 指标 1.13.0

npm

55中等健康指数

mohitsoni48/TurboLLM

Run any local LLM engine, auto-tuned to your GPU — polished web UI + OpenAI/Anthropic-compatible API. Point Claude Code at your own machine in one command. No Electron, no Python, offline-first.

TypeScript★ 173↓ 6,179/月2026年7月16日

无许可证2026年7月16日 · 指标 1.13.0

npm

51中等健康指数

lloyal-ai/reasoning-run

A private reasoner for your terminal. Direct conversation or grounded multi-agent research, GPU-native and fully local. No API keys, no inference servers.

TypeScript · JavaScript★ 2↓ 2,264/月2026年7月19日

MIT2026年7月19日 · 指标 1.13.0

npm

49存在风险健康指数

eeshansrivastava89/offgrid-ai

Privacy-first CLI for running local LLMs — discover, configure, run, benchmark

JavaScript★ 1↓ 20.6K/月2026年7月17日

无许可证2026年7月17日 · 指标 1.13.0

#llama-cpp