全部标签
目录标签

#prompt-compression

公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。

7 条记录
标签为“prompt-compression”按健康指数排序
PyPI · npm · crates.io
86优秀健康指数
juyterman1000/entroly
Cut AI context cost without trusting the compressor. Every reduction is reversible, byte-exact recoverable, and carries an auditable receipt. Local-first, works through proxy, MCP, SDK, or agent wrapper.
Python · Rust★ 443↓ 9,156/月2026年9月12日
Apache-2.02026年9月12日 · 指标 2.10.0
npm
81优秀健康指数
GroepOnline/pi-agent-orchestrator
Multi-agent orchestration for Pi: subagents, swarms, worktrees, schedules, handoffs and live TUI observability.
TypeScript★ 0↓ 2,475/月2026年10月17日
MIT2026年10月17日 · 指标 2.10.0
PyPI · crates.io
81优秀健康指数
fkiene/llmtrim
Local proxy that compresses your LLM API requests so you pay less, with no change to the answers. Trims wasted tokens from prompts, history, tool output, and code before they're sent: -31% input / -74% output, measured live. Any provider, no extra model calls. Also an MCP server and embeddable library (Rust, Python, Ruby, Kotlin, Swift, JS/TS).
Rust★ 229↓ 3,361/月2026年9月13日
MPL-2.02026年9月13日 · 指标 2.10.0
PyPI
69良好健康指数
microsoft/LLMLingua
[EMNLP'23, ACL'24] To speed up LLMs' inference and enhance LLM's perceive of key information, compress the prompt and KV-Cache, which achieves up to 20x compression with minimal performance loss.
Python★ 6,760↓ 36.8K/月2026年10月19日
MIT2026年10月19日 · 指标 2.10.0
npm
57中等健康指数
atjsh/llmlingua-2-js
JavaScript/TypeScript implementation of LLMLingua-2 (Experimental)
TypeScript★ 32↓ 384.2K/月2026年9月18日
MIT2026年9月18日 · 指标 2.10.0
npm
50中等健康指数
siliconvalleyglobal/TokenSaveOS
该仓库未发布描述。
TypeScript · JavaScript★ 2↓ 2,563/月2026年9月18日
自定义许可证2026年9月18日 · 指标 2.10.0
npm · PyPI
47薄弱健康指数
NadirRouter/barber
Query-aware context trimming for LLM requests. Your context could use a trim.
Python · JavaScript★ 5↓ 1,732/月2026年9月18日
MIT2026年9月18日 · 指标 2.10.0