Усі теги
Тег каталогу

#llamacpp

Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.

24 записи
З тегом «llamacpp»Упорядковано за індексом здоров'я
PyPI · npm
97Винятковийіндекс здоров'я
gptme/gptme
Your agent in your terminal, equipped with local tools: writes code, uses the terminal, browses the web. Make your own persistent autonomous agent on top!
Python · TypeScript★ 4 400↓ 49.9K/міс28 серп. 2026 р.
MIT28 серп. 2026 р. · метрики 2.10.0
PyPI · npm
97Винятковийіндекс здоров'я
xorbitsai/inference
Swap GPT for any LLM by changing a single line of code. Xinference lets you run open-source, speech, and multimodal models on cloud, on-prem, or your laptop — all through one unified, production-ready inference API.
Python · TypeScript★ 9 579↓ 8 895/міс20 вер. 2026 р.
Apache-2.020 вер. 2026 р. · метрики 2.10.0
NuGet
88Відміннийіндекс здоров'я
SciSharp/LLamaSharp
A C#/.NET library to run LLM (🦙LLaMA/LLaVA) on your local device efficiently.
C# · JavaScript★ 3 79111 вер. 2026 р.
MIT11 вер. 2026 р. · метрики 2.10.0
npm
84Відміннийіндекс здоров'я
ngxson/wllama
WebAssembly binding for llama.cpp - Enabling on-browser LLM inference
TypeScript · C++★ 1 319↓ 55.3K/міс1 жовт. 2026 р.
MIT1 жовт. 2026 р. · метрики 2.10.0
crates.io · Maven
83Відміннийіндекс здоров'я
eugenehp/llama-cpp-rs
A wrapper around the llama-cpp library for rust, including new Sampler API from llama-cpp.
Rust★ 53↓ 8 825/міс20 жовт. 2026 р.
Apache-2.020 жовт. 2026 р. · метрики 2.10.0
Go · npm
81Відміннийіндекс здоров'я
lordmathis/llamactl
Unified management and routing for llama.cpp, MLX and vLLM models with web dashboard.
Go · TypeScript★ 15220 вер. 2026 р.
MIT20 вер. 2026 р. · метрики 2.10.0
RubyGems
80Відміннийіндекс здоров'я
JohnSnowLabs/spark-nlp
State of the Art Natural Language Processing
Scala · Python · HTML★ 4 15917 вер. 2026 р.
Apache-2.017 вер. 2026 р. · метрики 2.10.0
PyPI
80Відміннийіндекс здоров'я
LostRuins/koboldcpp
Run GGUF models easily with a KoboldAI UI. One File. Zero Install.
C++★ 11.9K24 вер. 2026 р.
AGPL-3.024 вер. 2026 р. · метрики 2.10.0
npm
78Добрийіндекс здоров'я
sybil-solutions/local-studio
Control panel for VLLM, Sglang, llama.cpp, exllamav3
TypeScript★ 1 7559 вер. 2026 р.
Apache-2.09 вер. 2026 р. · метрики 2.10.0
npm · crates.io · PyPI
77Добрийіндекс здоров'я
Fast-Editor/Lynkr
Streamline your workflow with Lynkr, a CLI tool that acts as an HTTP proxy for efficient code interactions using Claude Code CLI.
JavaScript · Rust★ 550↓ 1 969/міс14 вер. 2026 р.
Apache-2.014 вер. 2026 р. · метрики 2.10.0
Go
77Добрийіндекс здоров'я
craigh33/adk-go-kronk
Kronk model provider and utilities for adk-go
Go★ 211 вер. 2026 р.
Apache-2.011 вер. 2026 р. · метрики 2.10.0
crates.io · npm · PyPI
77Добрийіндекс здоров'я
intentee/paddler
Open-source LLM/VLM load balancer and serving platform for self-hosting LLMs (and VLMs) at scale 🏓🦙 Alternative to projects like llm-d, Docker Model Runner, etc but with less moving parts and simple deployments built around ggml ecosystem. Runs on CPU and GPU.
Rust★ 1 670↓ 40/міс13 вер. 2026 р.
Apache-2.013 вер. 2026 р. · метрики 2.10.0
npm
77Добрийіндекс здоров'я
mybigday/llama.node
Node.js binding of llama.cpp
C++ · TypeScript · JavaScript★ 21↓ 2 897/міс13 вер. 2026 р.
Без ліцензії13 вер. 2026 р. · метрики 2.10.0
Go
75Добрийіндекс здоров'я
hybridgroup/yzma
Go with your own intelligence - Write Go applications that directly integrate llama.cpp for local inference using hardware acceleration on Linux, macOS, Windows, & WebAssembly.
Go★ 5979 вер. 2026 р.
Власна ліцензія9 вер. 2026 р. · метрики 2.10.0
NuGet
67Добрийіндекс здоров'я
awaescher/OllamaSharp
The easiest way to use Ollama in .NET
C#★ 1 4058 вер. 2026 р.
MIT8 вер. 2026 р. · метрики 2.10.0
Go
67Добрийіндекс здоров'я
dmmdea/offload-harness
Delegate summarize/classify/extract/triage to a FREE local Gemma-4 cascade via llama.cpp. Go CLI + MCP server; never calls a cloud model. Includes a turnkey setup skill for Claude Code.
Go★ 215 вер. 2026 р.
Apache-2.015 вер. 2026 р. · метрики 2.10.0
crates.io
60Помірнийіндекс здоров'я
floneum/kalosm
Instant, controllable, local pre-trained AI models in Rust
Rust★ 2 23019 вер. 2026 р.
Apache-2.019 вер. 2026 р. · метрики 2.10.0
PyPI
60Помірнийіндекс здоров'я
manunicholasjacob/llama-roofline
Is your llama.cpp decode memory-bandwidth-bound? Find out in one command.
Python★ 1↓ 12.4K/міс13 жовт. 2026 р.
MIT13 жовт. 2026 р. · метрики 2.10.0
PyPI
59Помірнийіндекс здоров'я
jjang-ai/jangq
JANG — GGUF for MLX. YOU MUST USE JANG_Q RUNTIME. Adaptive Mixed-Precision Quantization + Runtime for Apple Silicon
Python · Swift★ 225↓ 1 557/міс13 вер. 2026 р.
Без ліцензії13 вер. 2026 р. · метрики 2.10.0
Go
51Помірнийіндекс здоров'я
airiclenz/llama-launcher
Profile-based launcher for local LLM servers - start, stop and switch models on llama.cpp, Ollama and LM Studio from one CLI/TUI. Zero resident overhead, optional MCP control plane, importable as a Go library.
Go★ 219 вер. 2026 р.
MIT19 вер. 2026 р. · метрики 2.10.0
Go
50Помірнийіндекс здоров'я
maruel/ask
Run AI at CLI
Go · Python★ 410 вер. 2026 р.
Apache-2.010 вер. 2026 р. · метрики 2.10.0
Go · npm
48Слабкийіндекс здоров'я
napmany/llmsnap
Fast LLM swapping with sleep/wake support, compatible with vllm, llama.cpp, etc. llama-swap fork.
Go · Svelte★ 5624 вер. 2026 р.
MIT24 вер. 2026 р. · метрики 2.10.0
Go
38Слабкийіндекс здоров'я
altSeneca/picoqmd
Lightweight QMD alternative: fully local hybrid search engine (BM25 + vector + rerank) and MCP server in a single ~15MB Go binary. No Node.js. Runs on Raspberry Pi.
Go★ 513 вер. 2026 р.
MIT13 вер. 2026 р. · метрики 2.10.0
npm · crates.io · PyPI
19Критичнийіндекс здоров'я
janhq/jan
Jan is an open source alternative to ChatGPT that runs 100% offline on your computer.
TypeScript · Rust★ 44.4K6 вер. 2026 р.
Власна ліцензія6 вер. 2026 р. · метрики 2.10.0