全部标签
目录标签

#crawl

公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。

22 条记录
标签为“crawl”按健康指数排序
crates.io · npm · PyPI
91优秀健康指数
fastcrw/crw
Fast, lightweight Firecrawl/Tavily alternative in Rust. Web scraper, crawler & search API with MCP server for AI agents. Drop-in Firecrawl-compatible API (/scrape, /crawl, /search). 2.3x faster than Tavily, 1.5x faster than Firecrawl in 1K-URL benchmarks. 6 MB RAM, single binary. Self-host or use managed cloud.
Rust★ 1,095↓ 10.6K/月2026年10月2日
AGPL-3.02026年10月2日 · 指标 2.10.0
crates.io · npm · PyPI
91优秀健康指数
us/crw
Fast, lightweight Firecrawl/Tavily alternative in Rust. Web scraper, crawler & search API with MCP server for AI agents. Drop-in Firecrawl-compatible API (/scrape, /crawl, /search). 2.3x faster than Tavily, 1.5x faster than Firecrawl in 1K-URL benchmarks. 6 MB RAM, single binary. Self-host or use managed cloud.
Rust★ 1,032↓ 10.7K/月2026年9月16日
AGPL-3.02026年9月16日 · 指标 2.10.0
PyPI
86优秀健康指数
ZenRows/zenrows-python-sdk
SDK to access Zenrows API directly from Python. We handle proxies rotation, headless browsers and CAPTCHAs for you.
Python★ 21↓ 211.5K/月2026年10月16日
MIT2026年10月16日 · 指标 2.10.0
PyPI
81优秀健康指数
ScrapingBee/scrapingbee-cli
该仓库未发布描述。
Python★ 107↓ 350/月2026年9月15日
MIT2026年9月15日 · 指标 2.10.0
Packagist
81优秀健康指数
chrome-php/chrome
Instrument headless chrome/chromium instances from PHP
PHP★ 2,677↓ 314.5K/月2026年9月8日
MIT2026年9月8日 · 指标 2.10.0
npm
80优秀健康指数
tavily-ai/tavily-n8n-node
A node for n8n that integrates the Tavily API, enabling powerful web search and content extraction within your no-code automation workflows.
TypeScript★ 21↓ 68.6K/月2026年10月21日
MIT2026年10月21日 · 指标 2.10.0
PyPI
78良好健康指数
tavily-ai/tavily-python
The Tavily Python SDK allows for easy interaction with the Tavily API, offering the full range of our search, extract, crawl, map, and research functionalities directly from your Python programs. Easily integrate smart search, content extraction, and research capabilities into your applications, harnessing Tavily's powerful features.
Python★ 1,375↓ 8.5M/月2026年8月27日
MIT2026年8月27日 · 指标 2.10.0
npm · Packagist · crates.io +1
78良好健康指数
xberg-io/crawlberg
High-performance web crawling engine with bindings for 11 languages
Rust★ 173↓ 1,094/月2026年9月15日
MIT2026年9月15日 · 指标 2.10.0
NuGet
77良好健康指数
soenneker/soenneker.playwrights.crawler
A configurable Playwright crawler with rich stealth and control options.
C#★ 02026年10月21日
MIT2026年10月21日 · 指标 2.10.0
npm
73良好健康指数
Kikobeats/xml-urls
Extract all URLs from Feed, Atom, RSS, and Sitemap XML markup for crawling and auditing.
JavaScript★ 12↓ 1,005/月2026年9月10日
MIT2026年9月10日 · 指标 2.10.0
npm · PyPI
71良好健康指数
dondai1234/master-fetch
MCP server for web fetching with Cloudflare bypass, Trafilatura extraction, and smart routing. Free, self-hosted, no API keys.
Python · HTML★ 867↓ 536/月2026年9月10日
MIT2026年9月10日 · 指标 2.10.0
npm
69良好健康指数
mysleekdesigns/crawlforge-mcp
31 MCP tools that give Claude, Cursor and any MCP client the live web — scrape, crawl, search, real Google rank, change tracking, document parsing, plus an autonomous agent that researches from a plain-English prompt with no URLs. Clean Markdown and schema-validated JSON, not raw HTML. Local-Ollama extraction by default. MIT, 1,000 free credits.
JavaScript★ 2↓ 5,464/月2026年10月21日
MIT2026年10月21日 · 指标 2.10.0
npm
67良好健康指数
superagents-lab/search1api-mcp
Official Search1API MCP server for web search, news, crawling, sitemaps, and trends—hosted with OAuth 2.1 or local via npm.
TypeScript · JavaScript★ 173↓ 2,722/月2026年8月24日
MIT2026年8月24日 · 指标 2.10.0
npm
62中等健康指数
Kikobeats/html-urls
Extract all href and src URLs from HTML markup for crawling, auditing, and link checks.
JavaScript★ 12↓ 5,973/月2026年9月15日
MIT2026年9月15日 · 指标 2.10.0
npm
62中等健康指数
tavily-ai/tavily-mcp
Production ready MCP server with real-time search, extract, map & crawl.
TypeScript★ 2,382↓ 86.8K/月2026年9月15日
MIT2026年9月15日 · 指标 2.10.0
npm
60中等健康指数
tavily-ai/ai-sdk
AI SDK tools for Tavily, built for Vercel's AI SDK v5.
TypeScript★ 5↓ 58K/月2026年10月21日
MIT2026年10月21日 · 指标 2.10.0
npm
59中等健康指数
olostep-api/olostep-js
nodejs SDK of the Olostep API
TypeScript★ 6↓ 10.3K/月2026年9月15日
无许可证2026年9月15日 · 指标 2.10.0
npm
57中等健康指数
brandonkramer/pi-scraper
Pi extension for fast page scraping, recursive crawling, URL/site mapping, brand extraction, content diffing, PDF text extraction, and deterministic vertical extraction.
TypeScript · HTML★ 7↓ 367/月2026年10月20日
MIT2026年10月20日 · 指标 2.10.0
Go
56中等健康指数
0xMassi/webclaw-go
Official Go SDK for the Webclaw web extraction API
Go★ 12026年9月13日
MIT2026年9月13日 · 指标 2.10.0
Packagist
47薄弱健康指数
terminal42/escargot
A web crawler or spider library based on Symfony components
PHP★ 59↓ 51K/月2026年10月12日
无许可证2026年10月12日 · 指标 2.10.0
PyPI
31存在风险健康指数
ReaJason/xhs
基于小红书 Web 端进行的请求封装。https://reajason.github.io/xhs/
Python★ 2,2192026年10月12日
MIT2026年10月12日 · 指标 2.10.0
npm
29存在风险健康指数
ddoojoang/ttj-skills-playwright
该仓库未发布描述。
TypeScript · JavaScript★ 1↓ 301/月2026年9月14日
无许可证2026年9月14日 · 指标 2.10.0