EleutherAI / lm-evaluation-harness
A framework for few-shot evaluation of language models.
EleutherAI/lm-evaluation-harness erreicht einen Gesundheitsindex von 94 von 100 und liegt damit im Bereich Außergewöhnlich. Am stärksten schneidet es bei Engineering Quality (92/100) ab, am schwächsten bei AI Readiness (57/100). Zuletzt heute aktualisiert. 3 Mitwirkende tragen den Großteil der jüngsten Arbeit.
Software-Gesundheitsindex
Metriken werden auf einer standardisierten Skala von 1–100 in gewichtete Kategorien gruppiert. Der Gesamtwert beginnt als ihr gewichtetes Mittel, kalibriert auf die Verteilung des öffentlichen Registers, sodass die Stufen Perzentilbedeutung tragen; sobald öffentliche Evidenz die Richtlinie für Hochrisikojurisdiktionen auslöst, wird die Bewertung angepasst und erhält die Obergrenze Gefährdet von 34.
Bewertungsprofil
Jede Achse ist eine Kategorie. Die Form zählt mehr als der Durchschnitt — ein gesundes Projekt füllt die gesamte Fläche, während ein Profil aus Spitzen und Kratern bedeutet, dass Stärke in einer Dimension Risiken in einer anderen verdeckt.
Der gewichtete Gesamtwert 81 wird auf der veröffentlichten Indexskala auf 94 kalibriert (Register-Kalibrierung 2026-08-02).
Eigentümerschaft
Dieses Repository wird von einer Organisation getragen — geteilte, rechenschaftspflichtige Trägerschaft, die jeden einzelnen Maintainer überdauern kann.
Paket-Ökosysteme
| Registry | Paket | Version | Downloads / Monat | Versionen | Zuletzt veröffentlicht |
|---|---|---|---|---|---|
| PyPI | lm_eval | 0.4.12 | 1.779.487 | 18 | vor 108 Tagen |
Metriken nach Kategorie
Vitalität
Lebt das Projekt — wird Code geschrieben und werden Releases ausgeliefert?
Entwicklungsaktivität
Wie die Bewertung erfolgt
| 36/36 | Push-Aktualität — letzter Push vor 0 Tagen |
| 24.9/36 | Commit-Rhythmus — 36/52 Wochen mit Commits |
| 18/18 | Commit-Volumen — 247 Commits im letzten Jahr |
| 10/10 | OpenSSF Scorecard: Maintained — 30 commit(s) and 1 issue activity found in the last 90 days -- score normalized to 10 |
Verwendete Eingangsdaten
| commits_last_year | 247 |
| human_commit_share | 1 |
| days_since_last_push | 0 |
| active_weeks_last_year | 36 |
Release-Disziplin
Wie die Bewertung erfolgt
| 27/27 | Liefert Releases aus — 18 Releases veröffentlicht |
| 27/36 | Release-Aktualität — letztes Release vor 108 Tagen |
| 19.8/27 | Release-Rhythmus — ein Release etwa alle 64,4 Tage |
| 0/10 | OpenSSF Scorecard: Signed-Releases — keine Daten |
Verwendete Eingangsdaten
| releases_count | 18 |
| latest_release_tag | v0.4.12 |
| releases_from_tags | nein |
| days_since_latest_release | 108 |
| mean_days_between_releases | 64,4 |
Community & Verbreitung
Hat das Projekt Nutzer, Downloads, Aufmerksamkeit und ein einladendes Umfeld für Beitragende?
Popularität & Verbreitung
Wie die Bewertung erfolgt
| 60/60 | Stars — 13.814 Stars |
| 25/25 | Forks — 3.520 Forks |
| 9.5/15 | Watcher — 52 Watcher |
Verwendete Eingangsdaten
| forks | 3.520 |
| stars | 13.814 |
| watchers | 52 |
| growth_state | organic |
| growth_factor_pct | 100 |
Community-Gesundheit
Wie die Bewertung erfolgt
| 22.5/22.5 | README |
| 22.5/22.5 | Lizenz — anerkannte Lizenz (MIT) |
| 18/18 | CONTRIBUTING-Leitfaden |
| 0/13.5 | Verhaltenskodex |
| 0/7.2 | Issue-Vorlage |
| 0/6.3 | PR-Vorlage |
Verwendete Eingangsdaten
| has_readme | ja |
| has_license | ja |
| readme_badges | 0 |
| has_contributing | ja |
| has_issue_template | nein |
| has_code_of_conduct | nein |
| readme_badge_services | — |
| has_pull_request_template | nein |
Ökosystem-Verbreitung (Downloads)
Wie die Bewertung erfolgt
| 80/80 | Downloads pro Monat — 1.779.487 Downloads/Monat über pypi |
| 0/20 | Abhängige in der Registry — von diesem Ökosystem nicht ausgewiesen |
Verwendete Eingangsdaten
| packages | lm_eval |
| dependents | — |
| ecosystems | pypi |
| total_downloads | — |
| monthly_downloads | 1.779.487 |
| unverified_packages_excluded | — |
Nachhaltigkeit & Governance
Überdauert das Projekt die Menschen, die es tragen — Bus-Faktor, Reaktionsfähigkeit, Trägerschaft und Paketpflege?
Wie die Bewertung erfolgt
| 36/54 | Bus-Faktor — 3 Beitragende decken die Hälfte aller Commits ab |
| 16.7/22.5 | Commit-Verteilung — wichtigste beitragende Person verfasste 26 % der Commits |
| 13.5/13.5 | Breite der Beitragenden — 100 Beitragende |
| 10/10 | OpenSSF Scorecard: Contributors — project has 27 contributing companies or organizations |
Verwendete Eingangsdaten
| bus_factor | 3 |
| contributors_sampled | 100 |
| top_contributor_share | 0,257 |
Wie die Bewertung erfolgt
| 27.5/42 | Issue-Lösungsquote — 66 % der Issues geschlossen |
| 22.8/30 | PR-Annahme — 1.512/1.986 entschiedene PRs gemergt |
| 9.1/13 | Newcomer PR acceptance — 7/10 PRs von Erstbeitragenden in 30 Tagen gemergt |
| 13.5/15 | OpenSSF Scorecard: Code-Review — Found 27/30 approved changesets -- score normalized to 9 |
Verwendete Eingangsdaten
| merged_prs | 1.512 |
| open_issues | 581 |
| closed_issues | 1.104 |
| prs_merged_7d | 32 |
| prs_decided_7d | 40 |
| prs_merged_30d | 43 |
| prs_decided_30d | 53 |
| issue_closed_ratio | 0,655 |
| closed_unmerged_prs | 474 |
| first_time_authors_30d | 8 |
| first_time_prs_merged_30d | 7 |
| first_time_prs_decided_30d | 10 |
Eigentümerschaft & Trägerschaft
Wie die Bewertung erfolgt
| 30/30 | Organisatorische Trägerschaft — im Besitz einer Organisation |
| 0/20 | Verifizierte Domain |
| 25/25 | Reichweite des Inhabers — 4.433 Follower von EleutherAI |
| 25/25 | Kontohistorie — 184 öffentliche Repos, Kontoalter ca. 6 Jahre |
Verwendete Eingangsdaten
| followers | 4.433 |
| owner_type | Organization |
| is_verified | nein |
| owner_login | EleutherAI |
| public_repos | 184 |
| account_age_days | 2.221 |
Paketpflege
Wie die Bewertung erfolgt
| 25/25 | Veröffentlicht & auflösbar — 1 Paket(e) auf pypi |
| 35/35 | Veröffentlichungsaktualität — letzte Veröffentlichung vor 108 Tagen |
| 20/20 | Versionshistorie — 18 veröffentlichte Versionen |
| 20/20 | Nicht veraltet — aktiv, nicht veraltet oder zurückgezogen |
Verwendete Eingangsdaten
| packages | lm_eval |
| ecosystems | pypi |
| any_deprecated | nein |
| min_days_since_publish | 108 |
Engineering-Qualität
Sind grundlegende Engineering- und Dokumentationspraktiken vorhanden?
Engineering-Praktiken
Wie die Bewertung erfolgt
| 24/24 | CI-Workflows — 3 Workflow(s) |
| 24/24 | Tests vorhanden |
| 16/16 | Linter-Konfiguration — pyproject.toml ([tool.ruff]) |
| 9.6/9.6 | Pre-Commit-Hooks |
| 0/6.4 | .editorconfig |
| 12/20 | OpenSSF Scorecard: CI-Tests — 20 out of 30 merged PRs checked by a CI test -- score normalized to 6 |
Verwendete Eingangsdaten
| has_ci | ja |
| has_tests | ja |
| has_editorconfig | nein |
| has_linter_config | ja |
| has_precommit_config | ja |
Dokumentation
Wie die Bewertung erfolgt
| 30/30 | README |
| 25/25 | Dokumentationsverzeichnis |
| 15/15 | Dokumentations-/Homepage-Site — https://www.eleuther.ai |
| 10/10 | Repository-Beschreibung |
| 10/10 | Topics — 3 Topics |
| 10/10 | Wiki |
Verwendete Eingangsdaten
| topics | evaluation-framework, language-model, transformer |
| has_wiki | ja |
| homepage | https://www.eleuther.ai |
| docs_site | https://www.eleuther.ai |
| has_readme | ja |
| has_docs_dir | ja |
| has_description | ja |
Sicherheit
Sind die sichtbaren Sicherheits- und Lieferkettenpraktiken belastbar, ohne ungeklärte Exposition gegenüber Hochrisikojurisdiktionen?
Sicherheitslage
Wie die Bewertung erfolgt
| 7.5/7.5 | Binary-Artifacts — no binaries found in the repo |
| 0/7.5 | Branch-Protection — keine Daten |
| 1.5/2.5 | CI-Tests — 20 out of 30 merged PRs checked by a CI test -- score normalized to 6 |
| 0/2.5 | CII-Best-Practices — no effort to earn an OpenSSF best practices badge detected |
| 6.8/7.5 | Code-Review — Found 27/30 approved changesets -- score normalized to 9 |
| 2.5/2.5 | Contributors — project has 27 contributing companies or organizations |
| 10/10 | Dangerous-Workflow — no dangerous workflow patterns detected |
| 0/7.5 | Dependency-Update-Tool — no update tool detected |
| 0/5 | Fuzzing — project is not fuzzed |
| 2.5/2.5 | Lizenz — license file detected |
| 7.5/7.5 | Maintained — 30 commit(s) and 1 issue activity found in the last 90 days -- score normalized to 10 |
| 5/5 | Packaging — packaging workflow detected |
| 0/5 | Pinned-Dependencies — dependency not pinned by hash detected -- score normalized to 0 |
| 0/5 | SAST — SAST tool is not run on all commits -- score normalized to 0 |
| 0/5 | Security-Policy — security policy file not detected |
| 0/7.5 | Signed-Releases — keine Daten |
| 0/7.5 | Token-Permissions — detected GitHub workflow tokens with excessive permissions |
| 7.5/7.5 | Vulnerabilities — 0 existing vulnerabilities detected |
Verwendete Eingangsdaten
| source | openssf_scorecard |
| checks_evaluated | 16 |
| scorecard_version | v5.5.0 |
| checks_inconclusive | 2 |
| scorecard_aggregate | 5,6 |
Wie die Bewertung erfolgt
| 10.4/35 | Direkte Abhängigkeiten ohne bekannte Advisories — 1 betroffen: sqlitedict 2.1.0 (high 8.8) |
| 25/25 | Indirekte Abhängigkeiten ohne bekannte Advisories — keine indirekte Abhängigkeit trägt ein bekanntes Advisory |
| 32.8/40 | Keine offenen Advisories — 1 Paket(e) mit Advisory seit über 90 Tagen unbehandelt; ältestes vor 708 Tagen veröffentlicht |
Verwendete Eingangsdaten
| source | osv |
| advisories | 2 |
| affected_packages | 1 |
| assessed_packages | 63 |
| unassessed_packages | 0 |
| affected_by_severity | high 1 |
| direct_affected_packages | 1 |
AI Readiness
Wie gut ist das Repository dafür ausgestattet, mit KI-Coding-Agenten entwickelt und gepflegt zu werden? Trägt ein bewusst kleines Gewicht (4 %): Agenten-Tooling ist ein echtes Pflegesignal, doch ein Repository ohne jedes Signal kann weiterhin 100/100 erreichen.
AI-Agentenkontext & Leitlinien
Wie die Bewertung erfolgt
| 0/45 | Agentenanweisungen — keine CLAUDE.md / AGENTS.md / Editor-Regeln |
| 15/15 | Maschinenlesbare Doku (llms.txt) — llms.txt wird von der Projektwebsite ausgeliefert (https://docs.sglang.ai/llms.txt) |
| 40/40 | Lesbare Commit-Historie — 97 von 100 menschlichen Commits benennen ihre Absicht (strukturierter Betreff oder erläuternder Text) |
Verwendete Eingangsdaten
| has_llms_txt | ja |
| llms_txt_url | https://docs.sglang.ai/llms.txt |
| legible_history_share | 0,97 |
| agent_instruction_files | — |
| agent_instruction_max_bytes | — |
Wie die Bewertung erfolgt
| 0/18 | Bootstrap mit einem Befehl |
| 22/22 | Automatisierte Tests |
| 11/11 | Lint-/Format-Konfiguration — pyproject.toml ([tool.ruff]) |
| 0/11 | Statische Typprüfung |
| 0/10 | Reproduzierbare Umgebung |
| 10/10 | Belegte Agentenpraxis — 6 der letzten 100 Commits von Agenten verfasst oder ihnen zugeschrieben |
| 0/8 | Automatisierte Wartung — keine automatisierten Abhängigkeits-Updates beobachtet |
| 0/10 | OpenSSF Scorecard: Pinned-Dependencies — dependency not pinned by hash detected -- score normalized to 0 |
Verwendete Eingangsdaten
| has_nix | nein |
| has_tests | ja |
| lockfiles | — |
| has_dockerfile | nein |
| typed_language | nein |
| bootstrap_files | — |
| has_devcontainer | nein |
| has_linter_config | ja |
| typecheck_configs | — |
| agent_commit_share | 0,06 |
| toolchain_manifests | — |
| dependency_bot_commit_share | 0 |
AI-Code-Lesbarkeit für Modelle
Wie die Bewertung erfolgt
| 0/45 | Typprüfbarer Code — Python ohne Typprüfungs-Konfiguration |
| 54.6/55 | Handhabbare Dateigrößen — 6/812 Quelldateien über 60 KB |
Verwendete Eingangsdaten
| primary_language | Python |
| largest_source_bytes | 88.709 |
| source_files_sampled | 812 |
| oversized_source_files | 6 |
Maschinenlesbare AI-Schnittstellen
Wie die Bewertung erfolgt
| 0/40 | API-Schema (OpenAPI/GraphQL/proto) — für diese Art von Software nicht anwendbar |
| 0/20 | MCP-Server — für diese Art von Software nicht anwendbar |
| 40/40 | Lauffähige Beispiele — examples, notebooks |
Verwendete Eingangsdaten
| example_dirs | examples, notebooks |
| has_mcp_signal | nein |
| api_schema_files | — |
| interfaces_expected_of | — |
Eckdaten
Warnungen zur Datenerhebung
- Star history unavailable: GitHub GraphQL error: Resource not accessible by personal access token
- Star history carried forward from 2026-07-21: GitHub restricted the stargazers API to repository admins, so it can no longer be collected. The repository has 13814 stars today.
- First-time contributor figures cover 12 of 41 authors (cap 12)
- GitHub dependency-graph SBOM unavailable (404); the dependency graph may be disabled for this repository
Weitere Details
Stern- und Fork-Verlauf 13.346 ★ / 3.520 ⇿
Wann jeder Stern und Fork hinzugefügt wurde, von GitHub erfasst und nach Tagen gruppiert. Das kumulierte Wachstum steht direkt über den täglichen Zugängen, aus denen es besteht, sodass beide gegeneinander lesbar sind: stetiger organischer Zuwachs sieht ganz anders aus als ein abrupter, kurzlebiger Ausschlag. Wo dieser Unterschied messbar ist, wird er als Wachstumsauthentizität ausgewiesen.
Es wird nur die jüngste Historie angezeigt — dieses Repository überschreitet das Erfassungsfenster, sodass die früheste Historie nicht erfasst wird.
Die Sternehistorie wird mit dem Stand vom 2026-07-21 gezeigt. GitHub hat die Stargazers-API im Juli 2026 auf Repository-Administratoren beschränkt, diese Reihe lässt sich daher nicht mehr fortschreiben; die Gesamtzahl der Sterne oben bleibt aktuell.
Jeder Punkt umfasst 2 Tage.
OpenSSF Scorecard 5.6 / 10
Unabhängige, werkzeugneutrale Sicherheitsbewertung durch das quelloffene OpenSSF Scorecard. Jede Prüfung honoriert eine Sicherheits-Praxis, nicht das Werkzeug eines bestimmten Anbieters. Prüfungen, die Scorecard nicht ermitteln konnte, sind mit k. A. markiert und vom Sicherheitswert ausgeschlossen (nie als null gezählt).
| 10 | Binary-Artifacts | no binaries found in the repo |
| k. A. | Branch-Protection | internal error: error during branchesHandler.setup: internal error: some github tokens can't read classic branch protection rules: https://github.com/ossf/scorecard-action/blob/main/docs/authentication/fine-grained-auth-token.md |
| 6 | CI-Tests | 20 out of 30 merged PRs checked by a CI test -- score normalized to 6 |
| 0 | CII-Best-Practices | no effort to earn an OpenSSF best practices badge detected |
| 9 | Code-Review | Found 27/30 approved changesets -- score normalized to 9 |
| 10 | Contributors | project has 27 contributing companies or organizations |
| 10 | Dangerous-Workflow | no dangerous workflow patterns detected |
| 0 | Dependency-Update-Tool | no update tool detected |
| 0 | Fuzzing | project is not fuzzed |
| 10 | License | license file detected |
| 10 | Maintained | 30 commit(s) and 1 issue activity found in the last 90 days -- score normalized to 10 |
| 10 | Packaging | packaging workflow detected |
| 0 | Pinned-Dependencies | dependency not pinned by hash detected -- score normalized to 0 |
| 0 | SAST | SAST tool is not run on all commits -- score normalized to 0 |
| 0 | Security-Policy | security policy file not detected |
| k. A. | Signed-Releases | no releases found |
| 0 | Token-Permissions | detected GitHub workflow tokens with excessive permissions |
| 10 | Vulnerabilities | 0 existing vulnerabilities detected |
Direkte Abhängigkeiten 14
| Registry | Paket | Versionsvorgabe | Manifest |
|---|---|---|---|
| PyPI | datasets | >=2.16.0 | pyproject.toml |
| PyPI | numpy | — | pyproject.toml |
| PyPI | evaluate | >=0.4.0 | pyproject.toml |
| PyPI | jinja2 | — | pyproject.toml |
| PyPI | pytablewriter | — | pyproject.toml |
| PyPI | rouge-score | >=0.0.4 | pyproject.toml |
| PyPI | sacrebleu | >=1.5.0 | pyproject.toml |
| PyPI | scikit-learn | >=0.24.1 | pyproject.toml |
| PyPI | sqlitedict | — | pyproject.toml |
| PyPI | dill | — | pyproject.toml |
| PyPI | word2number | — | pyproject.toml |
| PyPI | more_itertools | — | pyproject.toml |
| PyPI | typing_extensions | — | pyproject.toml |
| PyPI | tqdm | >=4.59.0 | pyproject.toml |
Alle Abhängigkeiten nicht erhoben
Der aufgelöste Abhängigkeitssatz konnte für diesen Bericht nicht erhoben werden: GitHub dependency-graph SBOM unavailable (404); the dependency graph may be disabled for this repository
Abhängigkeits-Advisories 1
Die Installation von pypi:lm_eval@0.4.12 zieht 63 Pakete nach sich, direkt und transitiv: 1 tragen bekannte Advisories, davon 1 direkte Abhängigkeiten.
| Paket | Version | Beziehung | Schweregrad | Advisories | Behoben in |
|---|---|---|---|---|---|
| sqlitedict | 2.1.0 | direkt | hoch | 2 | — |
Ein Advisory bedeutet, dass die im Abhängigkeitsgraphen erfasste Version in den betroffenen Bereich eines Advisories fällt. Erreichbarkeit wird nicht analysiert, und der Graph enthält Entwicklungs- und Test-Pins — ein Fund kann das Werkzeug betreffen und nicht die ausgelieferte Software.
JSON-Rohbericht maschinenlesbar
Feedback
Stimmt etwas in diesem Bericht nicht, oder gibt es Gedanken dazu? Falsche Messungen, übersehene Tools, Ideen, Fragen — alles ist willkommen. Jede Nachricht wird gelesen und beantwortet.
Bewertungen sind Signale, keine Garantien. Sie spiegeln öffentlich sichtbare Praxis auf GitHub wider — kein Code-Audit und keine Sicherheitsgarantie.
Fehlende Daten werden ausgeschlossen und die Gewichte neu normiert, nie als null bewertet. Die Methodik ist versioniert und offen: Metriken v2.10.0, Schema v0.34.0 — vollständige Methodik · Metriken-Wiki.
Wie ein einzelnes Ergebnis im Gesamtregister steht: aggregierte Statistiken — PyPI.