npm
brandonkramer/pi-scraper
Pi extension for fast page scraping, recursive crawling, URL/site mapping, brand extraction, content diffing, PDF text extraction, and deterministic vertical extraction.
MIT2026年8月28日 · 指标 2.10.0
全部标签
目录标签
#crawler
公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。
86 条记录
Packagist
JayBizzle/Laravel-Crawler-Detect
A Laravel wrapper for CrawlerDetect - the web crawler detection library
MIT2026年7月28日 · 指标 2.10.0
PyPI
codelucas/newspaper
newspaper3k is a news, full-text, and article metadata extraction in Python 3. Advanced docs:
MIT2026年8月12日 · 指标 2.10.0
Go
x-way/crawlerdetect
Golang module to detect bots and crawlers via the user agent
MIT2026年7月17日 · 指标 2.10.0
npm
codepurse/SEOCORE
Enterprise-grade, multi-threaded SEO Crawler, Rule Engine, and Link Graph Analyzer. Built in TypeScript for speed, compliance, and deep site health audits.
MIT2026年7月17日 · 指标 2.10.0
PyPI
tobybgy-lsd/web-agent-runtime-bench
Local-first failure diagnosis, auto collection, repair planning, AI handoff, and verification for Playwright, crawler, RPA, and agent workflows.
自定义许可证2026年7月26日 · 指标 2.10.0
npm
webscraping-ai/webscraping-ai-mcp-server
A Model Context Protocol (MCP) server implementation that integrates with WebScraping.AI for web data extraction capabilities.
无许可证2026年7月22日 · 指标 2.10.0
Packagist · npm
duzun/hQuery.php
An extremely fast web scraper that parses megabytes of invalid HTML in a blink of an eye. PHP5.3+, no dependencies.
MIT2026年7月29日 · 指标 2.10.0
Go
mjc-gh/virgo
Convert a webpage into plaintext or markdown using the Chrome DevTool Protocol
BSD-3-Clause2026年7月17日 · 指标 2.10.0
Go
quantmind-br/repodocs
Go CLI for extracting websites, repositories, sitemaps, and package docs into structured Markdown
MIT2026年8月25日 · 指标 2.10.0
crates.io
spider-rs/spider_firewall
Firewall for Rust
MIT2026年7月16日 · 指标 2.10.0
npm · Go · PyPI
AlphaTechini/doc-fetch
Dynamic documentation fetching CLI that converts entire documentation sites to single markdown files for AI/LLM consumption
无许可证2026年7月27日 · 指标 2.10.0
Packagist
crawlbase/crawlbase-php
A lightweight, dependency free PHP class that acts as wrapper for Crawlbase API
Apache-2.02026年7月15日 · 指标 2.10.0
Packagist
zorlan/skycaiji
蓝天采集器是一款开源免费的爬虫系统，仅需点选编辑规则即可采集数据，可运行在本地、虚拟主机或云服务器中，几乎能采集所有类型的网页，无缝对接各类CMS建站程序，免登录实时发布数据，全自动无需人工干预！是网页大数据采集软件中完全跨平台的云端爬虫系统
自定义许可证2026年7月27日 · 指标 2.10.0
crates.io
zekroTJA/r34-crawler
A simple CLI tool to fetch and download images from rule34.xxx
MIT2026年7月22日 · 指标 2.10.0
npm
pavlealeksic/playwright-afp
Stop website fingerprinting techniques playwright edition
MIT2026年9月2日 · 指标 2.10.0
NuGet
SoftCircuits/HtmlMonkey
Lightweight HTML/XML parser written in C#.
自定义许可证2026年7月31日 · 指标 2.10.0
PyPI
scrapy/scrapy
Scrapy, a fast high-level web crawling & scraping framework for Python.
BSD-3-Clause2026年8月12日 · 指标 2.10.0
npm
hardbulls/wbsc-crawler
该仓库未发布描述。
无许可证2026年7月25日 · 指标 2.10.0
Maven
code4craft/webmagic
A scalable web crawler framework for Java.
Apache-2.02026年8月27日 · 指标 2.10.0
npm
crawlbase/crawlbase-node
Fast dependency free library for Crawlbase API
Apache-2.02026年7月19日 · 指标 2.10.0
Go
Synoppy/synoppy-go
Official Go SDK for Synoppy — the web-data layer for AI agents. Read, crawl, map, extract, classify & enrich any website on one key. Standard library only.
MIT2026年7月28日 · 指标 2.10.0
Maven
ssssssss-team/spider-flow
新一代爬虫平台，以图形化方式定义爬虫流程，不写代码即可完成爬虫。
MIT2026年8月27日 · 指标 2.10.0
PyPI
0-EternalJunior-0/GraphCrawler
Python бібліотека для сканування веб-сайтів та побудови графу їх структури.
MIT2026年8月1日 · 指标 2.10.0
npm · PyPI
88899/gitmen-lottery
彩票 数据 双色球 大乐透 快开 超级大乐透 预测 仅供学习
无许可证2026年7月27日 · 指标 2.10.0
npm
karthikuj/sasori
Sasori is a dynamic web crawler powered by Puppeteer, designed for lightning-fast endpoint discovery.
MIT2026年8月4日 · 指标 2.10.0