全部标签
目录标签

#web-scraping

公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。

158 条记录
标签为“web-scraping”按健康指数排序
PyPI
57中等健康指数
mherrmann/helium
Lighter web automation with Python
Python · HTML★ 8,320↓ 19.5K/月2026年9月15日
MIT2026年9月15日 · 指标 2.10.0
Go
56中等健康指数
0xMassi/webclaw-go
Official Go SDK for the Webclaw web extraction API
Go★ 12026年9月13日
MIT2026年9月13日 · 指标 2.10.0
Go · npm
56中等健康指数
arinbalyan/scrappy
Bulk job-board scraper with 100+ sites, email enrichment, deterministic quality scoring, and multi-format exports (CSV/JSONL/XLSX/Parquet). Designed for scheduled bulk-first operations with per-site rate limiting, proxy pools, and resume support.
Go★ 62026年9月19日
自定义许可证2026年9月19日 · 指标 2.10.0
PyPI · npm
56中等健康指数
dondai44423/master-fetch
MCP server for web fetching with Cloudflare bypass, Trafilatura extraction, and smart routing. Free, self-hosted, no API keys.
Python · HTML★ 91↓ 3,148/月2026年9月14日
MIT2026年9月14日 · 指标 2.10.0
Go
56中等健康指数
dotcommander/defuddle
Go library and CLI for extracting web page content — articles, metadata, and clean text from any URL
Go★ 42026年9月10日
MIT2026年9月10日 · 指标 2.10.0
Go
56中等健康指数
naiba/proxy-in-a-box
Automatic proxy pool for web scraping - crawls, validates, and rotates proxies with rate limiting and MITM support
Go★ 422026年10月19日
MIT2026年10月19日 · 指标 2.10.0
PyPI
56中等健康指数
serpapi/google-search-results-python
Google Search Results via SERP API pip Python Package
Python★ 755↓ 1.6M/月2026年9月12日
MIT2026年9月12日 · 指标 2.10.0
Go
54中等健康指数
SohrabZ/x-browser-mcp
Read and post to X from your own logged-in browser session, exposed to local AI agents over MCP. No X API keys required.
Go★ 22026年10月19日
MIT2026年10月19日 · 指标 2.10.0
Go · npm
54中等健康指数
pithecene/quarry
Web extraction runtime for browser-driven crawling and durable ingestion
Go · TypeScript★ 02026年8月23日
Apache-2.02026年8月23日 · 指标 2.10.0
npm
54中等健康指数
zeative/zpi-sdk
Universal zero-dependency TypeScript SDK for the Zapi (Zest API) scraper platform
TypeScript★ 10↓ 31.1K/月2026年9月18日
MIT2026年9月18日 · 指标 2.10.0
Go
53中等健康指数
monbooru/monloader
Online media downloader for monbooru
Go★ 82026年9月10日
AGPL-3.02026年9月10日 · 指标 2.10.0
Go
53中等健康指数
tamnd/hf-cli
Read huggingface.co as data: every model, dataset, space, user, org, collection and paper as a typed record with an hf:// URI and a knowledge graph of the edges between them
Go★ 12026年10月22日
Apache-2.02026年10月22日 · 指标 2.10.0
Go · PyPI
51中等健康指数
JoakimCarlsson/bonk
Go-native browser automation via Chrome DevTools Protocol. No Node.js, no relay process, no external dependencies.
Go★ 152026年10月20日
MIT2026年10月20日 · 指标 2.10.0
Go
50中等健康指数
jhartum/redditrs
Go CLI for Reddit search & research: threads, subreddits, trends via web-session cookie — no API keys, no quota. Agent-friendly output.
Go · Shell★ 02026年10月12日
MIT2026年10月12日 · 指标 2.10.0
Go
50中等健康指数
mjc-gh/virgo
Convert a webpage into plaintext or markdown using the Chrome DevTool Protocol
Go · JavaScript★ 12026年9月10日
BSD-3-Clause2026年9月10日 · 指标 2.10.0
PyPI
50中等健康指数
ouli-1242/dhole-mcp
让 AI 代理访问互联网:抓取 · 爬取 · 搜索,内置反爬,$0 无密钥。Web research for AI agents: fetch, crawl & keyless search with anti-bot bypass.
Python · HTML★ 2↓ 3,454/月2026年10月20日
自定义许可证2026年10月20日 · 指标 2.10.0
Go
50中等健康指数
tamnd/martinfowler-cli
Fetch Martin Fowler's technical articles, bliki posts, and book entries from the terminal
Go · Python★ 02026年9月12日
Apache-2.02026年9月12日 · 指标 2.10.0
npm
48薄弱健康指数
Hyper-Solutions/hyper-sdk-js
JavaScript / TypeScript SDK for Bot Protection Bypass - Automate Akamai, Incapsula, Kasada, and DataDome. No browsers required. Solve challenges and generate valid sensors/cookies via API.
TypeScript★ 53↓ 32.2K/月2026年9月12日
MIT2026年9月12日 · 指标 2.10.0
NuGet
48薄弱健康指数
darrylwhitmore/NScrape
A web scraping framework for .NET
C#★ 652026年9月9日
MIT2026年9月9日 · 指标 2.10.0
PyPI
48薄弱健康指数
sarperavci/UAForge
Generate statistically accurate User Agents and Client Hints (Sec-CH-UA). Deterministic, data-driven browser identities based on real-world market share distributions.
Python★ 8↓ 628/月2026年9月15日
无许可证2026年9月15日 · 指标 2.10.0
npm
48薄弱健康指数
webscraping-ai/webscraping-ai-mcp-server
A Model Context Protocol (MCP) server implementation that integrates with WebScraping.AI for web data extraction capabilities.
JavaScript★ 45↓ 340/月2026年9月12日
无许可证2026年9月12日 · 指标 2.10.0
npm
47薄弱健康指数
yansircc/pipee
Pipee — Web UI for Pi and its official extensions
TypeScript★ 2↓ 430/月2026年9月15日
无许可证2026年9月15日 · 指标 2.10.0
Packagist
44薄弱健康指数
firecrawl/firecrawl-php
该仓库未发布描述。
PHP★ 2↓ 15.1K/月2026年10月19日
无许可证2026年10月19日 · 指标 2.10.0
Go
44薄弱健康指数
khanglvm/online
Online web discovery CLI for AI agents
Go★ 02026年9月9日
MIT2026年9月9日 · 指标 2.10.0
npm
42薄弱健康指数
vaaya-ai/vaaya-mcp
MCP server for AI agent payments: pay-per-call APIs (search, scraping, data, compute, media, research) with no vendor keys and a spend ceiling on every call. Works in Cursor, Claude Code, Claude Desktop, and Codex.
JavaScript · Shell · Dockerfile★ 432026年9月11日
MIT2026年9月11日 · 指标 2.10.0
Go
36薄弱健康指数
North-web-dev/impersonate-http
Go http.Client with a byte-exact browser TLS fingerprint (uTLS) — survive JA3/JA4 blocking without a headless browser.
Go★ 42026年9月28日
MIT2026年9月28日 · 指标 2.10.0
PyPI
34存在风险健康指数
scrapy/scrapy
Scrapy, a fast high-level web crawling & scraping framework for Python.
Python★ 64.4K↓ 4.6M/月2026年9月17日
BSD-3-Clause2026年9月17日 · 指标 2.10.0
Go
30存在风险健康指数
CrimsonKarma44/rss_detector
Go package that discovers RSS, Atom, and JSON Feed subscription links for any website URL
Go★ 12026年9月22日
无许可证2026年9月22日 · 指标 2.10.0
Go
29存在风险健康指数
jim-ww/shiraberu
Multi-engine search aggregator for the terminal — no API keys, no server. CLI + Go library.
Go★ 12026年9月15日
AGPL-3.02026年9月15日 · 指标 2.10.0
PyPI · npm
29存在风险健康指数
omkarcloud/botasaurus-driver
Super Fast, Super Anti-Detect, and Super Intuitive Web Driver
Python★ 1022026年9月14日
MIT2026年9月14日 · 指标 2.10.0