PyPI · npm
jjang-ai/vmlx
vMLX - JANGTQ Uber Compressed MLX Models - L2 Disk Cache (survives restart) + L1 Paged (super fast ttft) + Hybrid SSM Scheduler + Cont Batching + etc!
Apache-2.02026年7月24日 · 指标 2.10.0
全部标签
目录标签
#transformers
公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。
43 条记录
PyPI
jagmarques/nexusquant
Training-free KV cache compression via E8 lattice VQ. 2-bit KV that preserves retrieval (30/30 NIAH vs TurboQuant 0/30). Calibration-free, 9 architectures validated.
自定义许可证2026年7月16日 · 指标 2.10.0
PyPI
huggingface/setfit
Efficient few-shot learning with Sentence Transformers
Apache-2.02026年8月13日 · 指标 2.10.0
npm
privent-ai/n8n-nodes-privent
Open-source data protection framework for AI agent workflows in n8n. Detects, tokenizes, and reversibly anonymizes sensitive data before it reaches your models.
MIT2026年7月27日 · 指标 2.10.0
PyPI
Sid-MB/interlens
Python framework for efficient and precise interpretability research on multi-agent conversations.
AGPL-3.02026年7月15日 · 指标 2.10.0
npm
damoqiongqiu/mcp-local-rag
Local-first RAG server for developers. Semantic + keyword search for code and technical docs. Works with MCP or CLI. Fully private, zero setup.
MIT2026年8月2日 · 指标 2.10.0
PyPI
kha-white/manga-ocr
Optical character recognition for Japanese text, with the main focus being Japanese manga
Apache-2.02026年7月18日 · 指标 2.10.0
PyPI
kha-white/manga_ocr
Optical character recognition for Japanese text, with the main focus being Japanese manga
Apache-2.02026年7月18日 · 指标 2.10.0
PyPI
openvinotoolkit/openvino
OpenVINO™ is an open source toolkit for optimizing and deploying AI inference
Apache-2.02026年8月12日 · 指标 2.10.0
PyPI
LowinLi/transformers-stream-generator
This is a text generation method which returns a generator, streaming out each token in real-time during inference, based on Huggingface/Transformers.
MIT2026年7月21日 · 指标 2.10.0
PyPI
AbstractEndeavors/abstract_hugpy_dev
该仓库未发布描述。
自定义许可证2026年8月22日 · 指标 2.10.0
PyPI
intel/ipex-llm
Accelerate local LLM inference and finetuning (LLaMA, Mistral, ChatGLM, Qwen, DeepSeek, Mixtral, Gemma, Phi, MiniCPM, Qwen-VL, MiniCPM-V, etc.) on Intel XPU (e.g., local PC with iGPU and NPU, discrete GPU such as Arc, Flex and Max); seamlessly integrate with llama.cpp, Ollama, HuggingFace, LangChain, LlamaIndex, vLLM, DeepSpeed, Axolotl, etc.
Apache-2.02026年8月12日 · 指标 2.10.0
PyPI
protectai/llm-guard
The Security Toolkit for LLM Interactions
MIT2026年8月13日 · 指标 2.10.0