Усі теги
Тег каталогу

#local-llm

Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.

24 записи
З тегом «local-llm»Упорядковано за індексом здоров'я
Go
74Добрийіндекс здоров'я
defilantech/llmkube
Kubernetes operator for self-hosted LLM inference across a heterogeneous GPU fleet: NVIDIA CUDA, AMD Vulkan, and Apple Silicon Metal. Runtimes: llama.cpp, vLLM, TGI, mlx-server. Multi-GPU sharding, model caching, OpenAI-compatible endpoints. Apache-2.0, run across homelab and on-prem fleets, actively developed.
Go★ 167↓ 0/міс14 лип. 2026 р.
Apache-2.014 лип. 2026 р. · метрики 1.13.0
PyPI
72Добрийіндекс здоров'я
MakazhanAlpamys/Soup
Soup turns the pain of LLM fine-tuning into a simple workflow. One config, one command, done.
Python★ 7415 лип. 2026 р.
Apache-2.015 лип. 2026 р. · метрики 1.13.0
npm
72Добрийіндекс здоров'я
gfargo/coco
AI-powered Git Assistant for CLI
TypeScript★ 12↓ 4 030/міс15 лип. 2026 р.
MIT15 лип. 2026 р. · метрики 1.13.0
npm
70Добрийіндекс здоров'я
manojmallick/sigmap
97% token reduction for AI coding sessions — zero deps, 33 languages, MCP server
JavaScript★ 598↓ 10.8K/міс18 лип. 2026 р.
MIT18 лип. 2026 р. · метрики 1.13.0
npm · Maven
69Помірнийіндекс здоров'я
mybigday/llama.rn
React Native binding of llama.cpp
C++ · C★ 1 000↓ 57.2K/міс17 лип. 2026 р.
MIT17 лип. 2026 р. · метрики 1.13.0
npm
68Помірнийіндекс здоров'я
dcostenco/prism-coder
Persistent memory + local AI for coding agents. 2B–27B open-weight LLM fleet, cross-session Mind Palace, cognitive routing, L3 grounding verifier, multi-agent Hivemind. Works with Claude Code, Cursor, VS Code. Offline-first, HIPAA-ready. Free tier included.
TypeScript★ 155↓ 5 205/міс18 лип. 2026 р.
Apache-2.018 лип. 2026 р. · метрики 1.13.0
Go
67Помірнийіндекс здоров'я
ionalpha/flynn
A secure, self-improving agent operating system in a single Go binary. Bring any model, manage local models, point it at a goal, and grant it real authority: every action is sandboxed, governed, and sealed into a verifiable, tamper-evident record an independent party can check. Runs interactive or 24/7, or embed it in your own system.
Go★ 218 лип. 2026 р.
Apache-2.018 лип. 2026 р. · метрики 1.13.0
npm
65Помірнийіндекс здоров'я
yuhp/opencode-models-discovery
A universal OpenCode plugin for dynamic model discovery with flexible configuration for OpenAI-compatible providers.
TypeScript★ 75↓ 15.9K/міс15 лип. 2026 р.
MIT15 лип. 2026 р. · метрики 1.13.0
npm
63Помірнийіндекс здоров'я
m62624/pi-code-planner
Structured planning, bounded memory, TDD, and Git guardrails for local coding models in Pi Code (I don't know TypeScript at all; this is mostly a local-model experiment, with occasional help from Claude Code)
TypeScript★ 4↓ 3 041/міс22 лип. 2026 р.
MIT22 лип. 2026 р. · метрики 1.13.0
Go
61Помірнийіндекс здоров'я
famclaw/famclaw
Self-hosted family AI gateway with parental controls. Runs on Linux, macOS, and Android (Termux) — Raspberry Pi, mini PC, old laptop, homelab server, even a phone. Telegram, Discord, web. Privacy-first, works with any LLM (local or cloud), OPA content filtering, MCP skill scanning.
Go★ 217 лип. 2026 р.
AGPL-3.017 лип. 2026 р. · метрики 1.13.0
Go
60Помірнийіндекс здоров'я
rtmx-ai/aegis-cli
Air-gap-native agentic coding for closed environments — a hardened OpenCode TUI driven by a local model, with rtmx as the intent layer. Zero egress by construction.
Go★ 420 лип. 2026 р.
Apache-2.020 лип. 2026 р. · метрики 1.13.0
Go · PyPI
59Помірнийіндекс здоров'я
anthony-chaudhary/fak
fak — the Fused Agent Kernel: one Go binary for AI agent loops. Wrap Claude Code/Codex/Cursor, keep long sessions cache-efficient, route work per call, run local GGUF models, and adjudicate tool calls.
Go · Python★ 1517 лип. 2026 р.
Apache-2.017 лип. 2026 р. · метрики 1.13.0
PyPI
57Помірнийіндекс здоров'я
moortekweb-art/agentic-harness
Self-hosted completion gate for coding agents: independent verification before done, durable evidence, CLI and local GUI.
Python★ 0↓ 2 023/міс18 лип. 2026 р.
MIT18 лип. 2026 р. · метрики 1.13.0
crates.io · PyPI
56Помірнийіндекс здоров'я
ohdearquant/lattice
Run, quantize, and fine-tune LLMs on Apple Silicon. Pure Rust, no Python, no CUDA, no ONNX
Rust★ 31↓ 0/міс13 лип. 2026 р.
Apache-2.013 лип. 2026 р. · метрики 1.13.0
Go
55Помірнийіндекс здоров'я
mlhher/late-cli
Stop degrading your model's reasoning. A minimal, zero-config AI coding agent. Enforced ephemeral subagents keep context pure. From tiny local models up to Sol, Fable and Kimi K3.
Go★ 38220 лип. 2026 р.
Власна ліцензія20 лип. 2026 р. · метрики 1.13.0
npm
55Помірнийіндекс здоров'я
mohitsoni48/TurboLLM
Run any local LLM engine, auto-tuned to your GPU — polished web UI + OpenAI/Anthropic-compatible API. Point Claude Code at your own machine in one command. No Electron, no Python, offline-first.
TypeScript★ 173↓ 6 179/міс16 лип. 2026 р.
Без ліцензії16 лип. 2026 р. · метрики 1.13.0
PyPI
52Помірнийіндекс здоров'я
JamesWHomer/jarv
Scriptable, multi-provider AI agent for the terminal — pipe into it, script it, run it on any model, cloud or local
Python★ 4↓ 8 378/міс14 лип. 2026 р.
MIT14 лип. 2026 р. · метрики 1.13.0
PyPI
52Помірнийіндекс здоров'я
ToPo-ToPo-ToPo/local-llm-server
ローカルLLM(mlx / mlx-vlm / llama.cpp / router)を OpenAI 互換 API として起動・管理する軽量サーバー
Python★ 0↓ 4 302/міс19 лип. 2026 р.
Apache-2.019 лип. 2026 р. · метрики 1.13.0
Go · npm
51Помірнийіндекс здоров'я
liliang-cn/rago
AI Agent SDK designed for Go developers
Go★ 818 лип. 2026 р.
MIT18 лип. 2026 р. · метрики 1.13.0
npm
51Помірнийіндекс здоров'я
lloyal-ai/reasoning-run
A private reasoner for your terminal. Direct conversation or grounded multi-agent research, GPU-native and fully local. No API keys, no inference servers.
TypeScript · JavaScript★ 2↓ 2 264/міс19 лип. 2026 р.
MIT19 лип. 2026 р. · метрики 1.13.0
PyPI
49У зоні ризикуіндекс здоров'я
Leon-Sander/Local-Multimodal-AI-Chat
Self-hostable multimodal chat with local LLMs (Ollama/OpenAI): PDF RAG, image chat, and Whisper voice, Streamlit + Docker.
Python★ 20318 лип. 2026 р.
GPL-3.018 лип. 2026 р. · метрики 1.13.0
npm
49У зоні ризикуіндекс здоров'я
eeshansrivastava89/offgrid-ai
Privacy-first CLI for running local LLMs — discover, configure, run, benchmark
JavaScript★ 1↓ 20.6K/міс17 лип. 2026 р.
Без ліцензії17 лип. 2026 р. · метрики 1.13.0
PyPI · npm
38У зоні ризикуіндекс здоров'я
LearningCircuit/local-deep-research
~95% on SimpleQA (e.g. Qwen3.6-27B on a 3090). Supports all local and cloud LLMs (llama.cpp, Ollama, Google, ...). 10+ search engines - arXiv, PubMed, your private documents. Everything Local & Encrypted.
Python · JavaScript★ 8 752↓ 10.3K/міс20 лип. 2026 р.
MIT20 лип. 2026 р. · метрики 1.13.0
npm
29Критичнийіндекс здоров'я
jamiejamesdev/pi-en2th
Опис репозиторію не опубліковано.
TypeScript★ 0↓ 2 015/міс16 лип. 2026 р.
MIT16 лип. 2026 р. · метрики 1.13.0