全部标签
目录标签

#deduplication

公开记录中带有此标签的全部仓库——标签来自其 GitHub 主题或软件包注册表发布的关键词。健康度量遵循与记录其余部分相同的版本化方法论。

34 条记录
标签为“deduplication”按健康指数排序
PyPI
98卓越健康指数
moj-analytical-services/splink
Fast, accurate and scalable probabilistic data linkage with support for multiple SQL backends
Python · JavaScript★ 2,4112026年9月17日
MIT2026年9月17日 · 指标 2.10.0
Go · npm
98卓越健康指数
prometheus/alertmanager
Prometheus Alertmanager
Go · Elm★ 8,5972026年8月28日
Apache-2.02026年8月28日 · 指标 2.10.0
PyPI · npm
97卓越健康指数
NVIDIA-NeMo/Curator
Scalable data pre processing and curation toolkit for LLMs
Python · MDX★ 1,7812026年9月25日
Apache-2.02026年9月25日 · 指标 2.10.0
PyPI
97卓越健康指数
borgbackup/borg
Deduplicating archiver with compression and authenticated encryption.
Python★ 13.7K↓ 70.8K/月2026年8月27日
自定义许可证2026年8月27日 · 指标 2.10.0
PyPI · crates.io
95卓越健康指数
huggingface/xet-core
xet client tech, used in huggingface_hub
Rust★ 592↓ 214M/月2026年9月16日
Apache-2.02026年9月16日 · 指标 2.10.0
Go
94卓越健康指数
PlakarKorp/plakar
plakar is a backup solution powered by Kloset and ptar
Go★ 2,0632026年9月18日
ISC2026年9月18日 · 指标 2.10.0
PyPI
93卓越健康指数
opensanctions/nomenklatura
Framework and command-line tools for integrating FollowTheMoney data streams from multiple sources
Python★ 271↓ 24.9K/月2026年10月19日
MIT2026年10月19日 · 指标 2.10.0
npm · PyPI
89优秀健康指数
benseverndev-oss/goldenmatch
Zero-config entity resolution feeding a durable identity layer: messy records from any source become stable golden entities, a Customer 360 with provenance, merge/split and audit. Fellegi-Sunter beats hand-tuned Splink. Arrow-native/Rust, 250M rows in 11.2 min. Python + edge TypeScript (WASM), SQL-native in Postgres & DuckDB, 97 MCP tools + REST.
Python · TypeScript★ 1332026年10月22日
MIT2026年10月22日 · 指标 2.10.0
crates.io
87优秀健康指数
rustic-rs/rustic_core
rustic_core - library for fast, encrypted, deduplicated backups that powers rustic-rs
Rust★ 90↓ 17.7K/月2026年10月19日
Apache-2.02026年10月19日 · 指标 2.10.0
npm
87优秀健康指数
trieb-work/nextjs-turbo-redis-cache
Designed for speed, scalability, and optimized performance, nextjs-turbo-redis-cache is your go-to solution Next.js cache handler for demanding production environments. If you use the app router and self-host, you will probably need this. Development sponsored by https://TRWK.de
TypeScript★ 148↓ 52.3K/月2026年9月15日
MIT2026年9月15日 · 指标 2.10.0
Go
84优秀健康指数
cplieger/docker-fclones-scheduler
Hardened, rootless container for fclones that dedupes your folders on a schedule
Go · Shell★ 02026年10月21日
Apache-2.02026年10月21日 · 指标 2.10.0
PyPI
84优秀健康指数
sebastienrousseau/bankstatementparser
Parse bank statements — CAMT/ISO 20022, PAIN.001, CSV (EN/DE/FR/ES), OFX/QFX, MT940, PDFs (digital + scanned) — into unified Transactions. Deterministic parsers, LLM/vision fallback, Golden Rule + multi-currency + continuity verification, page provenance, dedupe, review, accuracy evals, CLI + REST API. 100% test coverage.
Python★ 502026年9月14日
自定义许可证2026年9月14日 · 指标 2.10.0
crates.io · npm · PyPI
83优秀健康指数
WithAutonomi/self_encryption
Self-encrypting, content-addressed storage - convergent encryption that splits data into obfuscated chunks. The peer-reviewed core of Autonomi.
Rust★ 139↓ 6,985/月2026年10月10日
Apache-2.02026年10月10日 · 指标 2.10.0
Go
80优秀健康指数
franchoy/coldkeep
Coldkeep is a correctness-first, content-addressed cold-storage engine with deterministic restore, integrity verification, safe garbage collection, deduplication, transform-aware packed storage, and a reusable engine/catalog core. v1.x is complete and frozen; v2.x is planned for local-first productization.
Go · Python★ 02026年10月19日
Apache-2.02026年10月19日 · 指标 2.10.0
npm
77良好健康指数
git-stunts/git-cas
Git, freebased: pure CAS that’ll knock your SHAs off. LFS hates this repo!
JavaScript★ 0↓ 2,162/月2026年9月13日
Apache-2.02026年9月13日 · 指标 2.10.0
PyPI
75良好健康指数
crunchtools/petit
Log analysis program for use from the command line
GLSL · Python★ 32↓ 2,471/月2026年10月3日
自定义许可证2026年10月3日 · 指标 2.10.0
Go
73良好健康指数
LarsArtmann/go-idempotency
Go idempotency/deduplication store for CQRS command keys
Go★ 12026年10月18日
MIT2026年10月18日 · 指标 2.10.0
npm
71良好健康指数
MikkelScheike/email-provider-links
Email Provider Links automatically detects which email service (Gmail, Outlook, Yahoo, etc.) someone uses and provides a direct link to their login page, making password reset flows and email-related UX seamless.
TypeScript★ 3↓ 59.3K/月2026年9月11日
MIT2026年9月11日 · 指标 2.10.0
crates.io
71良好健康指数
nlfiedler/fastcdc-rs
FastCDC implementation in Rust
Rust★ 202↓ 312K/月2026年8月28日
MIT2026年8月28日 · 指标 2.10.0
PyPI · crates.io · Go
69良好健康指数
The-Billy-Company/relate
Code similarity search by compression - find near-duplicate files, clone families, and where a pasted snippet came from. No embeddings, no model, no vector database.
Zig · Python★ 1↓ 1,142/月2026年10月1日
Apache-2.02026年10月1日 · 指标 2.10.0
—
69良好健康指数
mhx/dwarfs
A fast high-compression read-only file system for Linux, FreeBSD, macOS and Windows
C++ · C★ 2,6002026年9月9日
自定义许可证2026年9月9日 · 指标 2.10.0
Go
63中等健康指数
samekind/codexfold
Local-first deduplication and transparent storage for Codex sessions
Go · Swift★ 02026年10月19日
Apache-2.02026年10月19日 · 指标 2.10.0
PyPI
62中等健康指数
beshu-tech/deltaglider
Store 4TB in 5GB: S3-compatible storage with 99.9% compression for versioned files
Python★ 32↓ 136/月2026年10月19日
MIT2026年10月19日 · 指标 2.10.0
crates.io
62中等健康指数
revidiumhq/biblib
Parse, manage, and deduplicate academic citations
Rust★ 8↓ 37.2K/月2026年9月12日
Apache-2.02026年9月12日 · 指标 2.10.0
crates.io
59中等健康指数
nootr/tracing-throttle
High-performance log deduplication and rate limiting for the Rust tracing ecosystem.
Rust★ 3↓ 40.6K/月2026年9月15日
MIT2026年9月15日 · 指标 2.10.0
PyPI
57中等健康指数
Fallen-Breath/pyfastcdc
A high-performance FastCDC 2020 implementation written in Python + Cython
Python · Cython★ 2↓ 3,662/月2026年10月22日
MIT2026年10月22日 · 指标 2.10.0
RubyGems
57中等健康指数
rosette-api/ruby
Babel Street Analytics Client Library for Ruby
Ruby★ 42026年10月6日
自定义许可证2026年10月6日 · 指标 2.10.0
Go · npm
56中等健康指数
alexander-kolodka/crestic
Crestic simplifies working with restic. Restic is fast and secure, but managing multiple folders and backup destinations via its CLI can get repetitive. Crestic lets you define repositories and jobs in a single YAML config and run them with simple commands — no magic, just a cleaner way to use restic.
Go★ 22026年9月11日
MIT2026年9月11日 · 指标 2.10.0
crates.io
56中等健康指数
jRimbault/yadf
Yet Another Dupes Finder
Rust · Shell · Python★ 69↓ 63/月2026年9月19日
MIT2026年9月19日 · 指标 2.10.0