PyPI84Відміннийіндекс здоров'я
Python · Jupyter Notebook★ 34↓ 855/міс14 вер. 2026 р.
PyPI · npm · crates.io84Відміннийіндекс здоров'я

PSU3D0/formualizerThe fastest embeddable spreadsheet engine - parse, evaluate & mutate Excel workbooks from Rust, Python, or the browser. Arrow-powered, 400+ functions.
Rust★ 204↓ 109.6K/міс21 жовт. 2026 р.
PyPI83Відміннийіндекс здоров'я

Toloka/tolokaforgeUniversal LLM benchmarking harness for tool use, browser, mobile, coding, and long-horizon evals
Python★ 17↓ 7 406/міс25 вер. 2026 р.
PyPI83Відміннийіндекс здоров'я
Python★ 96↓ 664/міс19 жовт. 2026 р.
PyPI · crates.io83Відміннийіндекс здоров'я

derekallman/hotcocoPerception evaluation toolkit in Rust with Python bindings. A pycocotools drop-in for COCO, LVIS, and Open Images detection metrics, up to 36× faster, plus TIDE error analysis, confusion matrices, calibration, model comparison, and a dataset browser.
Rust · Python★ 16↓ 27.4K/міс7 жовт. 2026 р.
PyPI81Відміннийіндекс здоров'я

SuperagenticAI/superqodeThe harness interoperability layer for coding agent. Agent to Agent connect over ACP, A2A and UHP
Python★ 44↓ 6 161/міс11 вер. 2026 р.
PyPI · npm81Відміннийіндекс здоров'я
Python · TypeScript★ 2319 вер. 2026 р.
npm80Відміннийіндекс здоров'я
TypeScript · MDX★ 17↓ 3 928/міс18 вер. 2026 р.
npm78Добрийіндекс здоров'я

Kromatic-Innovation/panelistSynthetic user panels for any artifact, run across multiple model providers to correct for self-preference bias — models the exact point a persona quits, dismisses, or refuses to click, not a warmth score.
JavaScript★ 0↓ 498/міс20 жовт. 2026 р.
npm · PyPI · Go78Добрийіндекс здоров'я

memoturn/memoturnOpen-source AI engineering platform — LLM observability, evals, metrics, prompt management, playground, and datasets. OpenTelemetry-native, self-hostable. Because "it worked when I tried it" is not an eval.
TypeScript★ 1↓ 646/міс3 жовт. 2026 р.
npm77Добрийіндекс здоров'я

Precisa-Saude/medbench-brasilLeaderboard reproduzível de LLMs em provas médicas brasileiras (Revalida, INEP) — zero-shot, 3 execuções, análise de contaminação
TypeScript★ 2↓ 2 553/міс18 жовт. 2026 р.
PyPI77Добрийіндекс здоров'я

digline/diglineRegression testing for LLM applications — with the baseline in your repository, not on someone's server.
Python★ 518 вер. 2026 р.
NuGet77Добрийіндекс здоров'я
C#★ 5619 жовт. 2026 р.
npm · PyPI77Добрийіндекс здоров'я

hue-run/hue-sdkHue TypeScript and Python SDKs for OpenTelemetry tracing and local evaluations
TypeScript · Python★ 1↓ 5 372/міс23 вер. 2026 р.
PyPI75Добрийіндекс здоров'я

OpenAdaptAI/openadapt-evalsWindows Agent Arena and GUI-agent evaluation for OpenAdapt. Live support surface. Install the product with pip install openadapt; this repo is the eval harness, including WAA.
Python★ 4↓ 3 043/міс14 вер. 2026 р.
npm75Добрийіндекс здоров'я

crewhaus/factoryOpen-source compiler for AI agents. Write one crewhaus.yaml; compile it to a CLI, a Slack bot, and an eval harness from the same spec. Apache-2.0.
TypeScript★ 3↓ 13.6K/міс13 вер. 2026 р.
PyPI75Добрийіндекс здоров'я

huggingface/evaluate🤗 Evaluate: A library for easily evaluating machine learning models and datasets.
Python★ 2 480↓ 3.7M/міс10 вер. 2026 р.
npm75Добрийіндекс здоров'я

o-stepper/graphorinProject Graphorin is a TypeScript framework for personal AI assistants and long-living agents with rich memory, durable workflow, and observability out of the box.
TypeScript★ 3↓ 2 359/міс15 вер. 2026 р.
npm73Добрийіндекс здоров'я
TypeScript★ 5↓ 110.3K/міс15 вер. 2026 р.
npm73Добрийіндекс здоров'я

axl-sdk/axlTypeScript SDK for orchestrating Agentic Systems — concurrency, structured output, cost control, and consensus as first-class primitives.
TypeScript★ 2↓ 5 510/міс14 вер. 2026 р.
npm73Добрийіндекс здоров'я

baabakk/llm-portsTypeScript LLM Abstraction Layer for Multi-Provider AI Systems. Multi-provider routing, fallback chains, USD cost gating, capability factories, tool-use security.
TypeScript★ 2↓ 10.6K/міс15 вер. 2026 р.
PyPI73Добрийіндекс здоров'я

ianarawjo/ChainForgeAn open-source visual programming environment for battle-testing prompts to LLMs.
TypeScript · Python★ 3 032↓ 2 565/міс1 жовт. 2026 р.
PyPI73Добрийіндекс здоров'я

mjpost/sacrebleuReference BLEU implementation that auto-downloads test sets and reports a version string to facilitate cross-lab comparisons
Python★ 1 259↓ 4.3M/міс27 серп. 2026 р.
PyPI71Добрийіндекс здоров'я

AgentX-ai/AgentX-PythonAgentX python SDK. Build multi-agent AI workforce. Run evaluation. Trace your agent. Full Observability.
Python★ 68↓ 6 342/міс16 вер. 2026 р.
npm71Добрийіндекс здоров'я
TypeScript★ 7↓ 9 011/міс18 вер. 2026 р.
PyPI69Добрийіндекс здоров'я

bullpeng72/Agent-Evaluator LLM agent evaluation framework with 7 Harness Gates (A–G) and 58 metrics. Supports LangChain, CrewAI, AutoGen, DSPy, PydanticAI. Native LLM-as-Judge, OTEL tracing, FastAPI dashboard.
Python · Jinja★ 1↓ 1 305/міс18 жовт. 2026 р.
PyPI69Добрийіндекс здоров'я
Python★ 611↓ 11.1M/міс12 вер. 2026 р.
PyPI67Добрийіндекс здоров'я

HarperZ9/flywheelFlywheel runs AI tasks with a model you choose and keeps a receipt anyone can recheck offline.
Python · Dart★ 3↓ 2 756/міс15 жовт. 2026 р.
PyPI67Добрийіндекс здоров'я
Python★ 34↓ 10.1K/міс16 жовт. 2026 р.
PyPI · crates.io · npm +167Добрийіндекс здоров'я

nickderobertis/onejudgeA simulated interaction and evaluation loop over oneharness: drive a harness through a multi-turn conversation and score the transcript.
Rust★ 1↓ 11.1K/міс20 жовт. 2026 р.