Python · Jupyter Notebook★ 34↓ 855/月2026年9月14日
npm · crates.io · PyPI84优秀健康指数

PSU3D0/formualizerEmbeddable spreadsheet engine - parse, evaluate & mutate Excel workbooks from Rust, Python, or the browser. Arrow-powered, 400+ functions.
Rust★ 177↓ 10.9K/月2026年9月5日

Toloka/tolokaforgeUniversal LLM benchmarking harness for tool use, browser, mobile, coding, and long-horizon evals
Python★ 17↓ 7,406/月2026年9月25日
Python★ 96↓ 664/月2026年10月19日

derekallman/hotcocoPerception evaluation toolkit in Rust with Python bindings. A pycocotools drop-in for COCO, LVIS, and Open Images detection metrics, up to 36× faster, plus TIDE error analysis, confusion matrices, calibration, model comparison, and a dataset browser.
Rust · Python★ 16↓ 27.4K/月2026年10月7日

SuperagenticAI/superqodeThe harness interoperability layer for coding agent. Agent to Agent connect over ACP, A2A and UHP
Python★ 44↓ 6,161/月2026年9月11日
Python · TypeScript★ 232026年9月19日
TypeScript · MDX★ 17↓ 3,928/月2026年9月18日

Kromatic-Innovation/panelistSynthetic user panels for any artifact, run across multiple model providers to correct for self-preference bias — models the exact point a persona quits, dismisses, or refuses to click, not a warmth score.
JavaScript★ 0↓ 498/月2026年10月20日

memoturn/memoturnOpen-source AI engineering platform — LLM observability, evals, metrics, prompt management, playground, and datasets. OpenTelemetry-native, self-hostable. Because "it worked when I tried it" is not an eval.
TypeScript★ 1↓ 646/月2026年10月3日

Precisa-Saude/medbench-brasilLeaderboard reproduzível de LLMs em provas médicas brasileiras (Revalida, INEP) — zero-shot, 3 execuções, análise de contaminação
TypeScript★ 2↓ 2,553/月2026年10月18日

digline/diglineRegression testing for LLM applications — with the baseline in your repository, not on someone's server.
Python★ 52026年9月18日
C#★ 562026年10月19日

hue-run/hue-sdkHue TypeScript and Python SDKs for OpenTelemetry tracing and local evaluations
TypeScript · Python★ 1↓ 5,372/月2026年9月23日

OpenAdaptAI/openadapt-evalsWindows Agent Arena and GUI-agent evaluation for OpenAdapt. Live support surface. Install the product with pip install openadapt; this repo is the eval harness, including WAA.
Python★ 4↓ 3,043/月2026年9月14日

crewhaus/factoryOpen-source compiler for AI agents. Write one crewhaus.yaml; compile it to a CLI, a Slack bot, and an eval harness from the same spec. Apache-2.0.
TypeScript★ 3↓ 13.6K/月2026年9月13日

huggingface/evaluate🤗 Evaluate: A library for easily evaluating machine learning models and datasets.
Python★ 2,480↓ 3.7M/月2026年9月10日

o-stepper/graphorinProject Graphorin is a TypeScript framework for personal AI assistants and long-living agents with rich memory, durable workflow, and observability out of the box.
TypeScript★ 3↓ 2,359/月2026年9月15日
TypeScript★ 5↓ 110.3K/月2026年9月15日

axl-sdk/axlTypeScript SDK for orchestrating Agentic Systems — concurrency, structured output, cost control, and consensus as first-class primitives.
TypeScript★ 2↓ 5,510/月2026年9月14日

baabakk/llm-portsTypeScript LLM Abstraction Layer for Multi-Provider AI Systems. Multi-provider routing, fallback chains, USD cost gating, capability factories, tool-use security.
TypeScript★ 2↓ 10.6K/月2026年9月15日

ianarawjo/ChainForgeAn open-source visual programming environment for battle-testing prompts to LLMs.
TypeScript · Python★ 3,032↓ 2,565/月2026年10月1日

mjpost/sacrebleuReference BLEU implementation that auto-downloads test sets and reports a version string to facilitate cross-lab comparisons
Python★ 1,259↓ 4.3M/月2026年8月27日

AgentX-ai/AgentX-PythonAgentX python SDK. Build multi-agent AI workforce. Run evaluation. Trace your agent. Full Observability.
Python★ 68↓ 6,342/月2026年9月16日
TypeScript★ 7↓ 9,011/月2026年9月18日

bullpeng72/Agent-Evaluator LLM agent evaluation framework with 7 Harness Gates (A–G) and 58 metrics. Supports LangChain, CrewAI, AutoGen, DSPy, PydanticAI. Native LLM-as-Judge, OTEL tracing, FastAPI dashboard.
Python · Jinja★ 1↓ 1,305/月2026年10月18日
Python★ 611↓ 11.1M/月2026年9月12日

HarperZ9/flywheelFlywheel runs AI tasks with a model you choose and keeps a receipt anyone can recheck offline.
Python · Dart★ 3↓ 2,756/月2026年10月15日
Python★ 34↓ 10.1K/月2026年10月16日
PyPI · crates.io · npm +167良好健康指数

nickderobertis/onejudgeA simulated interaction and evaluation loop over oneharness: drive a harness through a multi-turn conversation and score the transcript.
Rust★ 1↓ 11.1K/月2026年10月20日