全部标签
目录标签

#spider

公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。

26 条记录
标签为“spider”按健康指数排序
PyPI
94卓越健康指数
akfamily/akshare
AKShare is an elegant and simple financial data interface library for Python, built for human beings! 开源财经数据接口库
Python · JavaScript★ 22.6K2026年9月16日
MIT2026年9月16日 · 指标 2.10.0
npm
89优秀健康指数
JustinBeckwith/linkinator
Broken link checker that crawls websites and validates links. Find broken links, dead links, and invalid URLs in websites, documentation, and local files. Perfect for SEO audits and CI/CD.
TypeScript★ 1,269↓ 691.2K/月2026年10月3日
MIT2026年10月3日 · 指标 2.10.0
PyPI
87优秀健康指数
DedSecInside/TorBot
Dark Web OSINT Tool
Python★ 4,7262026年8月28日
自定义许可证2026年8月28日 · 指标 2.10.0
crates.io
84优秀健康指数
spider-rs/spider
Foundational low latency web data collecting in Rust
Rust★ 2,790↓ 24.2K/月2026年10月20日
MIT2026年10月20日 · 指标 2.10.0
Packagist
80优秀健康指数
JayBizzle/Crawler-Detect
🕷 CrawlerDetect is a PHP class for detecting bots/crawlers/spiders via the user agent
PHP★ 2,401↓ 2.6M/月2026年8月27日
MIT2026年8月27日 · 指标 2.10.0
npm · Packagist · crates.io +1
78良好健康指数
xberg-io/crawlberg
High-performance web crawling engine with bindings for 11 languages
Rust★ 173↓ 1,094/月2026年9月15日
MIT2026年9月15日 · 指标 2.10.0
Maven
77良好健康指数
Norconex/crawler
Norconex Crawlers (or spiders) are flexible web and filesystem crawlers for collecting, parsing, and manipulating data from the web or filesystem to various data repositories such as search engines.
Java★ 2052026年10月21日
Apache-2.02026年10月21日 · 指标 2.10.0
npm
71良好健康指数
rodrigogs/pornhub
pornhub API library
TypeScript★ 8↓ 2,070/月2026年9月18日
BSD-3-Clause2026年9月18日 · 指标 2.10.0
Go
69良好健康指数
gosom/scrapemate
Golang Crawling and scraping framework
Go★ 2102026年9月15日
MIT2026年9月15日 · 指标 2.10.0
PyPI
69良好健康指数
moskrc/crawlerdetect
🕷CrawlerDetect is a Python library designed to identify bots, crawlers, and spiders by analyzing their user agents.
Python★ 45↓ 53.4K/月2026年9月14日
MIT2026年9月14日 · 指标 2.10.0
Packagist
69良好健康指数
mvdbos/php-spider
A configurable and extensible PHP web spider
PHP★ 1,342↓ 1,502/月2026年10月19日
MIT2026年10月19日 · 指标 2.10.0
Go
67良好健康指数
x-way/crawlerdetect
Golang module to detect bots and crawlers via the user agent
Go★ 702026年9月9日
MIT2026年9月9日 · 指标 2.10.0
NuGet
65良好健康指数
zzzprojects/html-agility-pack
Html Agility Pack (HAP) is a free and open-source HTML parser written in C# to read/write DOM and supports plain XPATH or XSLT. It is a .NET code library that allows you to parse "out of the web" HTML files.
C# · HTML★ 2,8512026年10月20日
MIT2026年10月20日 · 指标 2.10.0
RubyGems
63中等健康指数
loadkpi/crawler_detect
Ruby gem to detect bots and crawlers via the user agent
Ruby★ 1482026年9月6日
MIT2026年9月6日 · 指标 2.10.0
NuGet
62中等健康指数
Senparc/Senparc.CO2NET
Base Common Library, support for.NET Framework &.NET Core
C#★ 3642026年9月11日
Apache-2.02026年9月11日 · 指标 2.10.0
PyPI · npm · crates.io +1
62中等健康指数
spider-rs/spider-clients
Python, Javascript, and Rust libraries for the Spider Cloud API.
Rust · Python · Go★ 26↓ 365K/月2026年9月9日
MIT2026年9月9日 · 指标 2.10.0
Packagist
56中等健康指数
JayBizzle/Laravel-Crawler-Detect
A Laravel wrapper for CrawlerDetect - the web crawler detection library
PHP★ 326↓ 68.7K/月2026年9月14日
MIT2026年9月14日 · 指标 2.10.0
npm
54中等健康指数
Kikobeats/top-crawler-agents
Curated list of common web crawler and bot User-Agent strings used across the internet.
JavaScript★ 29↓ 1,103/月2026年9月19日
MIT2026年9月19日 · 指标 2.10.0
Packagist
51中等健康指数
jae-jae/QueryList
:spider: The progressive PHP crawler framework! 优雅的渐进式PHP采集框架。
PHP★ 2,690↓ 6,685/月2026年9月15日
无许可证2026年9月15日 · 指标 2.10.0
Packagist
47薄弱健康指数
terminal42/escargot
A web crawler or spider library based on Symfony components
PHP★ 59↓ 51K/月2026年10月12日
无许可证2026年10月12日 · 指标 2.10.0
Packagist
41薄弱健康指数
zorlan/skycaiji
蓝天采集器是一款开源免费的爬虫系统,仅需点选编辑规则即可采集数据,可运行在本地、虚拟主机或云服务器中,几乎能采集所有类型的网页,无缝对接各类CMS建站程序,免登录实时发布数据,全自动无需人工干预!是网页大数据采集软件中完全跨平台的云端爬虫系统
PHP★ 2,0912026年9月14日
自定义许可证2026年9月14日 · 指标 2.10.0
NuGet
33存在风险健康指数
SoftCircuits/HtmlMonkey
Lightweight HTML/XML parser written in C#.
C#★ 632026年9月15日
自定义许可证2026年9月15日 · 指标 2.10.0
—
33存在风险健康指数
spidersuite/SpiderSuite
SpiderSuite (web security crawler) releases, wiki and roadmap
混合★ 9792026年9月20日
无许可证2026年9月20日 · 指标 2.10.0
crates.io
27存在风险健康指数
spider-rs/spider_remote_cache
该仓库未发布描述。
Rust★ 0↓ 2,729/月2026年10月3日
无许可证2026年10月3日 · 指标 2.10.0
Maven
23存在风险健康指数
ssssssss-team/spider-flow
新一代爬虫平台,以图形化方式定义爬虫流程,不写代码即可完成爬虫。
Java★ 11.4K2026年8月27日
MIT2026年8月27日 · 指标 2.10.0
PyPI
22存在风险健康指数
0-EternalJunior-0/GraphCrawler
Python бібліотека для сканування веб-сайтів та побудови графу їх структури.
Python · HTML★ 1↓ 4,246/月2026年8月1日
MIT2026年8月1日 · 指标 2.10.0