PyPI · npm
NVIDIA-NeMo/Guardrails
NeMo Guardrails is an open-source toolkit for easily adding programmable guardrails to LLM-based conversational systems.
Власна ліцензія17 вер. 2026 р. · метрики 2.10.0
Усі теги
Тег каталогу
#llm-safety
Усі репозиторії публічного реєстру з цим тегом — із тем GitHub або ключових слів, які публікують їхні реєстри пакетів. Здоров'я вимірюється за тією ж версіонованою методологією, що й решта реєстру.
7 записів
PyPI
cvs-health/uqlm
[JMLR 2026] "UQLM: A Python Package for Uncertainty Quantification in Large Language Models"
Apache-2.019 вер. 2026 р. · метрики 2.10.0
PyPI
sattyamjjain/agent-airlock
A type-checker and contract layer for AI agent tool calls, deny-by-default, in-process, Pydantic-only. Strict argument validation, ghost-argument stripping, and self-healing retries for MCP servers and agent frameworks.
Apache-2.018 вер. 2026 р. · метрики 2.10.0
PyPI · npm · crates.io +1
QWED-AI/qwed-verification
Open-source AI verification infrastructure for deterministic verification of LLM outputs, tool calls, code, schemas, and agent state before production execution.
Apache-2.018 вер. 2026 р. · метрики 2.10.0
PyPI
HeadyZhang/agent-audit
Static security scanner for LLM agents — prompt injection, MCP config auditing, taint analysis. 51 rules mapped to OWASP Agentic Top 10 (2026). Works with LangChain, CrewAI, AutoGen.
MIT18 вер. 2026 р. · метрики 2.10.0
npm
subodhkc/llmverify-npm
AI model health monitor for LLM apps – runtime checks for drift, hallucination risk, latency, and JSON/format quality on any OpenAI, Anthropic, or local client.
Власна ліцензія20 вер. 2026 р. · метрики 2.10.0
npm · PyPI
CogNEXUSlabs/cognexus-tools
CogNEXUS Labs builds the infrastructure that makes autonomous AI accountable to the enterprise. Our product, Artzain is the model-agnostic Agent Control Plane for autonomous systems. Here's the SDK
Apache-2.018 вер. 2026 р. · метрики 2.10.0