HTTP scraper with Cloudflare bypass, stealth mode, TLS rotation, proxy support, and a null-safe BeautifulSoup wrapper
lncrawl/scraper має індекс здоров’я 51 зі 100, що відповідає смузі «Помірний». Найвищий показник — Vitality (70/100), найнижчий — Security (30/100). Останнє оновлення — сьогодні. Більшість нещодавньої роботи виконує один учасник.
Метрики згруповано у зважені категорії на шкалі 1–100. Загальна оцінка починається як їхнє зважене середнє, відкаліброване за розподілом публічного реєстру, тож діапазони мають перцентильний зміст; коли публічні дані активують Політику юрисдикцій високого ризику, рейтинг коригується й отримує верхню межу 34 («У зоні ризику»).
Кожна вісь — окрема категорія. Форма важить більше, ніж середнє: здоровий об'єкт заповнює всю фігуру, тоді як профіль із піками та провалами означає, що сила в одному вимірі маскує ризик в іншому.
Зважений загальний бал 51 калібровано до 51 за шкалою опублікованого індексу (калібрування реєстру 2026-08-02).
За цим репозиторієм стоїть організація — спільна, підзвітна опіка, здатна пережити будь-якого окремого мейнтейнера.
| Реєстр | Пакет | Версія | Завантажень / міс | Версії | Остання публікація | Теги |
|---|---|---|---|---|---|---|
| PyPI | lncrawl-scraper | 1.4.0 | 5 920 | 15 | 0 днів тому | beautifulsoupbot-detectioncloudflareimpersonatescrapertls-fingerprintweb-bot-auth |
Чи живий проєкт — чи пишеться код і чи виходять релізи?
| 36/36 | Свіжість push — останній push 0 дн. тому |
| 3.5/36 | Ритм комітів — 5/52 тижнів із комітами |
| 16/18 | Обсяг комітів — 59 комітів за останній рік |
| 0/10 | OpenSSF Scorecard: Maintained — project was created within the last 90 days. Please review its contents carefully |
| commits_last_year | 59 |
| human_commit_share | 1 |
| days_since_last_push | 0 |
| active_weeks_last_year | 5 |
| 27/27 | Випускає релізи — опубліковано 15 релізів |
| 36/36 | Свіжість релізів — останній реліз 0 дн. тому |
| 27/27 | Ритм релізів — реліз кожні ~5,1 дн. |
| 0/10 | OpenSSF Scorecard: Signed-Releases — Project has not signed or included provenance with any releases. |
| releases_count | 15 |
| latest_release_tag | v1.4.0 |
| releases_from_tags | ні |
| days_since_latest_release | 0 |
| mean_days_between_releases | 5,1 |
Чи має проєкт користувачів, завантаження, увагу та влаштовані умови для контриб’юторів?
| 0/60 | Зірки — 1 зірок |
| 0/25 | Форки — 0 форків |
| 0/15 | Спостерігачі — 0 спостерігачів |
| forks | 0 |
| stars | 1 |
| watchers | 0 |
| growth_state | unverified |
| growth_factor_pct | 100 |
| growth_unverified_reason | no_history |
| 22.5/22.5 | README |
| 22.5/22.5 | Ліцензія — визнана ліцензія (Apache-2.0) |
| 0/18 | Настанови CONTRIBUTING |
| 0/13.5 | Кодекс поведінки |
| 0/7.2 | Шаблон issue |
| 0/6.3 | Шаблон PR |
| has_readme | так |
| has_license | так |
| readme_badges | — |
| has_contributing | ні |
| has_issue_template | ні |
| has_code_of_conduct | ні |
| readme_badge_services | — |
| has_pull_request_template | ні |
| 50.3/80 | Щомісячні завантаження — 5 920 завантажень/місяць у pypi |
| 0/20 | Залежні пакети в реєстрі — ця екосистема цього не повідомляє |
| packages | lncrawl-scraper |
| dependents | — |
| ecosystems | pypi |
| total_downloads | — |
| monthly_downloads | 5 920 |
| unverified_packages_excluded | — |
Чи переживе проєкт своїх людей — бас-фактор, реактивність, хто за ним стоїть і як супроводжуються пакети?
| 9/54 | Бас-фактор — на 1 контриб’ютор(ів) припадає половина всіх комітів |
| 0/22.5 | Розподіл комітів — головний контриб’ютор — автор 100% комітів |
| 1.4/13.5 | Широта контриб’юторів — 1 контриб’юторів |
| 3/10 | OpenSSF Scorecard: Contributors — project has 1 contributing companies or organizations -- score normalized to 3 |
| bus_factor | 1 |
| contributors_sampled | 1 |
| top_contributor_share | 1 |
| 0/42 | Вирішення issue — закрито 0% issue |
| 30/30 | Прийняття PR — злито 2/2 вирішених PR |
| 0/13 | Newcomer PR acceptance — за 30 дн. не вирішено жодного PR від новачка |
| 0/15 | OpenSSF Scorecard: Code-Review — Found 0/30 approved changesets -- score normalized to 0 |
| merged_prs | 2 |
| open_issues | 1 |
| closed_issues | 0 |
| prs_merged_7d | — |
| prs_decided_7d | — |
| prs_merged_30d | — |
| prs_decided_30d | — |
| issue_closed_ratio | 0 |
| closed_unmerged_prs | 0 |
| first_time_authors_30d | — |
| first_time_prs_merged_30d | — |
| first_time_prs_decided_30d | — |
| 30/30 | Підтримка власника — у власності організації |
| 0/20 | Верифікований домен — статус підтвердженого домену для цієї організації не зчитано |
| 6.9/25 | Охоплення власника — 8 підписників у lncrawl |
| 8.1/25 | Послужний список — 8 публічних репозиторіїв, вік облікового запису ~0 р. |
| followers | 8 |
| owner_type | Organization |
| is_verified | — |
| owner_login | lncrawl |
| public_repos | 8 |
| account_age_days | 218 |
| 25/25 | Опубліковано й доступно — 1 пакет(ів) у pypi |
| 35/35 | Свіжість публікацій — остання публікація 0 дн. тому |
| 20/20 | Історія версій — 15 опублікованих версій |
| 20/20 | Не застарілий — активний, не deprecated і не yanked |
| packages | lncrawl-scraper |
| ecosystems | pypi |
| any_deprecated | ні |
| min_days_since_publish | 0 |
Чи наявні базові інженерні практики та документація?
| 24/24 | Процеси CI — 5 процес(ів) CI |
| 24/24 | Наявні тести |
| 0/16 | Конфігурація лінтера |
| 0/9.6 | Pre-commit-хуки |
| 0/6.4 | .editorconfig |
| 0/20 | OpenSSF Scorecard: CI-Tests — немає даних |
| has_ci | так |
| has_tests | так |
| has_editorconfig | ні |
| has_linter_config | ні |
| has_precommit_config | ні |
| 30/30 | README |
| 25/25 | Каталог документації |
| 0/15 | Сайт документації / домашня сторінка |
| 10/10 | Опис репозиторію |
| 0/10 | Теми |
| 10/10 | Wiki |
| topics | — |
| has_wiki | так |
| homepage | — |
| docs_site | — |
| has_readme | так |
| has_docs_dir | так |
| has_description | так |
Чи міцні видимі практики безпеки й ланцюга постачання, без непослабленої пов’язаності з юрисдикціями високого ризику?
| 7.5/7.5 | Binary-Artifacts — no binaries found in the repo |
| 0/7.5 | Branch-Protection — branch protection not enabled on development/release branches |
| 0/2.5 | CI-Tests — немає даних |
| 0/2.5 | CII-Best-Practices — no effort to earn an OpenSSF best practices badge detected |
| 0/7.5 | Code-Review — Found 0/30 approved changesets -- score normalized to 0 |
| 0.8/2.5 | Contributors — project has 1 contributing companies or organizations -- score normalized to 3 |
| 10/10 | Dangerous-Workflow — no dangerous workflow patterns detected |
| 0/7.5 | Dependency-Update-Tool — no update tool detected |
| 0/5 | Fuzzing — project is not fuzzed |
| 2.5/2.5 | Ліцензія — license file detected |
| 0/7.5 | Maintained — project was created within the last 90 days. Please review its contents carefully |
| 5/5 | Packaging — packaging workflow detected |
| 0/5 | Pinned-Dependencies — dependency not pinned by hash detected -- score normalized to 0 |
| 0/5 | SAST — no SAST tool detected |
| 0/5 | Security-Policy — security policy file not detected |
| 0/7.5 | Signed-Releases — Project has not signed or included provenance with any releases. |
| 0/7.5 | Token-Permissions — detected GitHub workflow tokens with excessive permissions |
| 0/7.5 | Vulnerabilities — 27 existing vulnerabilities detected |
| source | openssf_scorecard |
| checks_evaluated | 17 |
| scorecard_version | v5.5.0 |
| checks_inconclusive | 1 |
| scorecard_aggregate | 2,5 |
| 9.6/35 | Прямі залежності без відомих сповіщень — уражено 2: curl-cffi 0.13.0 (high 8.6), requests 2.32.5 (moderate 5.5) |
| 0/25 | Непрямі залежності без відомих сповіщень — транзитивний набір не відокремлюється від залежностей розробки й тестування в цьому обсязі |
| 29.6/40 | Немає задавнених сповіщень — 2 пакет(ів) зі сповіщеннями без реакції понад 90 дн.; найдавніше опубліковано 128 дн. тому |
| source | osv |
| advisories | 75 |
| affected_packages | 9 |
| assessed_packages | 80 |
| unassessed_packages | 0 |
| affected_by_severity | critical 2, high 4, moderate 3 |
| direct_affected_packages | 2 |
Наскільки репозиторій оснащений для розробки та супроводу за участі ШІ-агентів? Має свідомо малу вагу (4%): агентний інструментарій — реальний сигнал супроводу, але репозиторій без нього все одно може отримати 100/100.
| 45/45 | Інструкції для агентів — AGENTS.md, CLAUDE.md |
| 0/15 | Машиночитана документація (llms.txt) |
| 33.5/40 | Читабельна історія комітів — намір зазначено у 44 з 70 людських комітів (структурований заголовок або пояснювальний текст) |
| has_llms_txt | ні |
| llms_txt_url | — |
| legible_history_share | 0,629 |
| agent_instruction_files | AGENTS.md, CLAUDE.md |
| agent_instruction_max_bytes | 10 610 |
| 0/18 | Розгортання однією командою |
| 22/22 | Автоматизовані тести |
| 0/11 | Конфігурація лінтера / форматера |
| 11/11 | Статична перевірка типів — src/scraper/py.typed |
| 10/10 | Відтворюване середовище — lockfile |
| 5.7/10 | Підтверджена практика роботи з агентами — 2 з останніх 70 комітів створено агентом або з його зазначенням |
| 0/8 | Автоматизоване супроводження — автоматичних оновлень залежностей не виявлено |
| 0/10 | OpenSSF Scorecard: Pinned-Dependencies — dependency not pinned by hash detected -- score normalized to 0 |
| has_nix | ні |
| has_tests | так |
| lockfiles | uv.lock |
| has_dockerfile | ні |
| typed_language | ні |
| bootstrap_files | — |
| has_devcontainer | ні |
| has_linter_config | ні |
| typecheck_configs | src/scraper/py.typed |
| agent_commit_share | 0,029 |
| toolchain_manifests | — |
| dependency_bot_commit_share | 0 |
| 27/45 | Типізований код — Python з конфігурацією перевірки типів (src/scraper/py.typed) |
| 54.3/55 | Керовані розміри файлів — 1/76 файлів вихідного коду понад 60 КБ |
| primary_language | Python |
| largest_source_bytes | 72 180 |
| source_files_sampled | 76 |
| oversized_source_files | 1 |
| 0/40 | Схема API (OpenAPI/GraphQL/proto) — не застосовно до цього типу програмного забезпечення |
| 0/20 | Сервер MCP — не застосовно до цього типу програмного забезпечення |
| 40/40 | Придатні до запуску приклади — examples |
| example_dirs | examples |
| has_mcp_signal | ні |
| api_schema_files | — |
| interfaces_expected_of | — |
Незалежна, не прив'язана до інструментів оцінка безпеки від відкритого проєкту OpenSSF Scorecard. Кожна перевірка винагороджує практику безпеки, а не інструмент конкретного постачальника. Перевірки, які Scorecard не зміг визначити, позначено н/д і виключено з оцінки безпеки (вони ніколи не зараховуються як нуль).
| 10 | Binary-Artifacts | no binaries found in the repo |
| 0 | Branch-Protection | branch protection not enabled on development/release branches |
| н/д | CI-Tests | no pull request found |
| 0 | CII-Best-Practices | no effort to earn an OpenSSF best practices badge detected |
| 0 | Code-Review | Found 0/30 approved changesets -- score normalized to 0 |
| 3 | Contributors | project has 1 contributing companies or organizations -- score normalized to 3 |
| 10 | Dangerous-Workflow | no dangerous workflow patterns detected |
| 0 | Dependency-Update-Tool | no update tool detected |
| 0 | Fuzzing | project is not fuzzed |
| 10 | License | license file detected |
| 0 | Maintained | project was created within the last 90 days. Please review its contents carefully |
| 10 | Packaging | packaging workflow detected |
| 0 | Pinned-Dependencies | dependency not pinned by hash detected -- score normalized to 0 |
| 0 | SAST | no SAST tool detected |
| 0 | Security-Policy | security policy file not detected |
| 0 | Signed-Releases | Project has not signed or included provenance with any releases. |
| 0 | Token-Permissions | detected GitHub workflow tokens with excessive permissions |
| 0 | Vulnerabilities | 27 existing vulnerabilities detected |
| Реєстр | Пакет | Обмеження версії | Маніфест |
|---|---|---|---|
| PyPI | curl_cffi | >=0.13 | pyproject.toml |
| PyPI | requests | >=2.28 | pyproject.toml |
| PyPI | beautifulsoup4 | >=4.14.3 | pyproject.toml |
| PyPI | lxml | >=6.0.0 | pyproject.toml |
Повний розв'язаний набір залежностей із графа залежностей GitHub: 6 прямих і 74 непрямих (транзитивних) пакетів. Транзитивне замикання є повним, коли в репозиторії закомічено lockfile.
| Реєстр | Пакет | Версія | Зв'язок |
|---|---|---|---|
| PyPI | beautifulsoup4 | 4.15.0 | пряма |
| PyPI | curl-cffi | 0.13.0 | пряма |
| PyPI | curl-cffi | 0.15.0 | пряма |
| PyPI | lxml | 6.1.1 | пряма |
| PyPI | requests | 2.32.5 | пряма |
| PyPI | requests | 2.34.2 | пряма |
| PyPI | babel | 2.18.0 | непряма |
| PyPI | backrefs | 6.2 | непряма |
| PyPI | backrefs | 8.0 | непряма |
| PyPI | certifi | 2026.5.20 | непряма |
| PyPI | cffi | 2.0.0 | непряма |
| PyPI | charset-normalizer | 3.4.7 | непряма |
| PyPI | click | 8.1.8 | непряма |
| PyPI | click | 8.4.2 | непряма |
| PyPI | colorama | 0.4.6 | непряма |
| PyPI | coverage | 7.10.7 | непряма |
| PyPI | coverage | 7.14.1 | непряма |
| PyPI | cryptography | 47.0.0 | непряма |
| PyPI | cryptography | 49.0.0 | непряма |
| PyPI | deprecated | 1.3.1 | непряма |
| PyPI | exceptiongroup | 1.3.1 | непряма |
| PyPI | ghp-import | 2.1.0 | непряма |
| PyPI | idna | 3.18 | непряма |
| PyPI | importlib-metadata | 8.7.1 | непряма |
| PyPI | iniconfig | 2.1.0 | непряма |
| PyPI | iniconfig | 2.3.0 | непряма |
| PyPI | jinja2 | 3.1.6 | непряма |
| PyPI | lncrawl-scraper | 1.4.0 | непряма |
| PyPI | lxml-stubs | 0.5.1 | непряма |
| PyPI | markdown | 3.10.2 | непряма |
| PyPI | markdown | 3.9 | непряма |
| PyPI | markdown-it-py | 4.2.0 | непряма |
| PyPI | markupsafe | 3.0.3 | непряма |
| PyPI | mdurl | 0.1.2 | непряма |
| PyPI | mergedeep | 1.3.4 | непряма |
| PyPI | mkdocs | 1.6.1 | непряма |
| PyPI | mkdocs-get-deps | 0.2.2 | непряма |
| PyPI | mkdocs-material | 9.7.7 | непряма |
| PyPI | mkdocs-material-extensions | 1.3.1 | непряма |
| PyPI | mss | 10.2.0 | непряма |
| PyPI | nodeenv | 1.10.0 | непряма |
| PyPI | nodriver | 0.50.3 | непряма |
| PyPI | packaging | 26.2 | непряма |
| PyPI | paginate | 0.5.7 | непряма |
| PyPI | pastel | 0.2.1 | непряма |
| PyPI | pathspec | 1.1.1 | непряма |
| PyPI | pillow | 11.3.0 | непряма |
| PyPI | pillow | 12.2.0 | непряма |
| PyPI | platformdirs | 4.11.0 | непряма |
| PyPI | platformdirs | 4.4.0 | непряма |
| PyPI | pluggy | 1.6.0 | непряма |
| PyPI | poethepoet | 0.37.0 | непряма |
| PyPI | poethepoet | 0.46.0 | непряма |
| PyPI | pycparser | 2.23 | непряма |
| PyPI | pycparser | 3.0 | непряма |
| PyPI | pygments | 2.20.0 | непряма |
| PyPI | pymdown-extensions | 10.21.3 | непряма |
| PyPI | pymdown-extensions | 11.0.1 | непряма |
| PyPI | pyright | 1.1.410 | непряма |
| PyPI | pysocks | 1.7.1 | непряма |
| PyPI | pytest | 8.4.2 | непряма |
| PyPI | pytest | 9.1.0 | непряма |
| PyPI | pytest-cov | 7.1.0 | непряма |
| PyPI | python-dateutil | 2.9.0.post0 | непряма |
| PyPI | pyyaml | 6.0.3 | непряма |
| PyPI | pyyaml-env-tag | 1.1 | непряма |
| PyPI | responses | 0.26.1 | непряма |
| PyPI | rich | 15.0.0 | непряма |
| PyPI | ruff | 0.15.17 | непряма |
| PyPI | six | 1.17.0 | непряма |
| PyPI | soupsieve | 2.8.4 | непряма |
| PyPI | tomli | 2.4.1 | непряма |
| PyPI | typing-extensions | 4.15.0 | непряма |
| PyPI | urllib3 | 2.6.3 | непряма |
| PyPI | urllib3 | 2.7.0 | непряма |
| PyPI | watchdog | 6.0.0 | непряма |
| PyPI | websockets | 15.0.1 | непряма |
| PyPI | websockets | 16.1.1 | непряма |
| PyPI | wrapt | 2.3.0 | непряма |
| PyPI | zipp | 3.23.1 | непряма |
Цей репозиторій не публікує пакета, який розпізнає індекс, тож оцінено його власний граф залежностей — 80 пакетів, серед яких є й піниї розробки та тестування, що ніколи не постачаються: 9 мають відомі сповіщення, з них 2 прямі.
| Пакет | Версія | Зв'язок | Критичність | Сповіщень | Виправлено в |
|---|---|---|---|---|---|
| pillow | 11.3.0 | непряма | критична | 36 | 12.3.0 |
| pillow | 12.2.0 | непряма | критична | 26 | 12.3.0 |
| curl-cffi | 0.13.0 | пряма | висока | 2 | 0.15.0 |
| click | 8.1.8 | непряма | висока | 1 | 8.3.3 |
| cryptography | 47.0.0 | непряма | висока | 1 | 48.0.1 |
| urllib3 | 2.6.3 | непряма | висока | 4 | 2.7.0 |
| requests | 2.32.5 | пряма | помірна | 2 | 2.33.0 |
| pymdown-extensions | 10.21.3 | непряма | помірна | 1 | 11.0.0 |
| pytest | 8.4.2 | непряма | помірна | 2 | 9.0.3 |
Сповіщення означає, що версія, записана в графі залежностей, потрапляє в уражений діапазон. Досяжність не аналізується, а граф містить піниї розробки й тестування — знахідка може стосуватися інструментів, а не поставленого коду.
Помітили щось хибне у цьому звіті або маєте чим поділитися? Неправильні вимірювання, непомічені інструменти, ідеї, запитання — усе доречно. Кожне повідомлення читається й отримує відповідь.
Оцінки — це сигнали, а не гарантії. Вони відображають публічно видимі практики на GitHub — це не аудит коду й не гарантія безпеки.
Відсутні дані виключаються, а ваги перенормовуються — нуль за відсутність ніколи не ставиться. Методологія версіонована й відкрита: метрики v2.10.0, схема v0.27.0 — повна методологія · вікі метрик.
Як окремий результат виглядає на тлі всього реєстру: сукупна статистика — PyPI.