PyPI · npm
gptme/gptme
Your agent in your terminal, equipped with local tools: writes code, uses the terminal, browses the web. Make your own persistent autonomous agent on top!
MIT2026年8月28日 · 指标 2.10.0
全部标签
目录标签
#llamacpp
公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。
24 条记录
PyPI · npm
xorbitsai/inference
Swap GPT for any LLM by changing a single line of code. Xinference lets you run open-source, speech, and multimodal models on cloud, on-prem, or your laptop — all through one unified, production-ready inference API.
Apache-2.02026年9月20日 · 指标 2.10.0
NuGet
SciSharp/LLamaSharp
A C#/.NET library to run LLM (🦙LLaMA/LLaVA) on your local device efficiently.
MIT2026年9月11日 · 指标 2.10.0
npm
ngxson/wllama
WebAssembly binding for llama.cpp - Enabling on-browser LLM inference
MIT2026年10月1日 · 指标 2.10.0
crates.io · Maven
eugenehp/llama-cpp-rs
A wrapper around the llama-cpp library for rust, including new Sampler API from llama-cpp.
Apache-2.02026年10月20日 · 指标 2.10.0
Go · npm
lordmathis/llamactl
Unified management and routing for llama.cpp, MLX and vLLM models with web dashboard.
MIT2026年9月20日 · 指标 2.10.0
RubyGems
JohnSnowLabs/spark-nlp
State of the Art Natural Language Processing
Apache-2.02026年9月17日 · 指标 2.10.0
PyPI
LostRuins/koboldcpp
Run GGUF models easily with a KoboldAI UI. One File. Zero Install.
AGPL-3.02026年9月24日 · 指标 2.10.0
npm
sybil-solutions/local-studio
Control panel for VLLM, Sglang, llama.cpp, exllamav3
Apache-2.02026年9月9日 · 指标 2.10.0
npm · crates.io · PyPI
Fast-Editor/Lynkr
Streamline your workflow with Lynkr, a CLI tool that acts as an HTTP proxy for efficient code interactions using Claude Code CLI.
Apache-2.02026年9月14日 · 指标 2.10.0
Go
craigh33/adk-go-kronk
Kronk model provider and utilities for adk-go
Apache-2.02026年9月11日 · 指标 2.10.0
crates.io · npm · PyPI
intentee/paddler
Open-source LLM/VLM load balancer and serving platform for self-hosting LLMs (and VLMs) at scale 🏓🦙 Alternative to projects like llm-d, Docker Model Runner, etc but with less moving parts and simple deployments built around ggml ecosystem. Runs on CPU and GPU.
Apache-2.02026年9月13日 · 指标 2.10.0
npm
mybigday/llama.node
Node.js binding of llama.cpp
无许可证2026年9月13日 · 指标 2.10.0
Go
hybridgroup/yzma
Go with your own intelligence - Write Go applications that directly integrate llama.cpp for local inference using hardware acceleration on Linux, macOS, Windows, & WebAssembly.
自定义许可证2026年9月9日 · 指标 2.10.0
NuGet
awaescher/OllamaSharp
The easiest way to use Ollama in .NET
MIT2026年9月8日 · 指标 2.10.0
Go
dmmdea/offload-harness
Delegate summarize/classify/extract/triage to a FREE local Gemma-4 cascade via llama.cpp. Go CLI + MCP server; never calls a cloud model. Includes a turnkey setup skill for Claude Code.
Apache-2.02026年9月15日 · 指标 2.10.0
crates.io
floneum/kalosm
Instant, controllable, local pre-trained AI models in Rust
Apache-2.02026年9月19日 · 指标 2.10.0
PyPI
manunicholasjacob/llama-roofline
Is your llama.cpp decode memory-bandwidth-bound? Find out in one command.
MIT2026年10月13日 · 指标 2.10.0
PyPI
jjang-ai/jangq
JANG — GGUF for MLX. YOU MUST USE JANG_Q RUNTIME. Adaptive Mixed-Precision Quantization + Runtime for Apple Silicon
无许可证2026年9月13日 · 指标 2.10.0
Go
airiclenz/llama-launcher
Profile-based launcher for local LLM servers - start, stop and switch models on llama.cpp, Ollama and LM Studio from one CLI/TUI. Zero resident overhead, optional MCP control plane, importable as a Go library.
MIT2026年9月19日 · 指标 2.10.0
Go
maruel/ask
Run AI at CLI
Apache-2.02026年9月10日 · 指标 2.10.0
Go · npm
napmany/llmsnap
Fast LLM swapping with sleep/wake support, compatible with vllm, llama.cpp, etc. llama-swap fork.
MIT2026年9月24日 · 指标 2.10.0
Go
altSeneca/picoqmd
Lightweight QMD alternative: fully local hybrid search engine (BM25 + vector + rerank) and MCP server in a single ~15MB Go binary. No Node.js. Runs on Raspberry Pi.
MIT2026年9月13日 · 指标 2.10.0
npm · crates.io · PyPI
janhq/jan
Jan is an open source alternative to ChatGPT that runs 100% offline on your computer.
自定义许可证2026年9月6日 · 指标 2.10.0