对象存储装好了,然后呢?自建 S3 工具箱 20 件套,备份同步挂载压测一次备齐

封面

用 RustFS 把桶建起来,是自建存储的第一步,也是最简单的一步。真正每天要面对的是四件事:把数据库备份推进桶里、把存量数据从旧存储搬过来、让应用像读本地盘一样读桶、以及压测证明这套东西扛得住。

这四件事各有成熟的工具,但选错工具的代价不小——挂载选错,随机写入能把应用拖死;同步选错,校验对不上就得重传十几 TB。这篇按四个场景整理 20 个能直接对接 S3 兼容存储的工具,每个给一句话定位和适用边界,手里有 RustFS 的可以直接拿 endpoint 和 access key 去试。

从空桶到能上生产:四步配齐

一、备份与恢复(5 个)

pgBackRest — PostgreSQL 备份的 de facto 标准。仓库类型原生支持 S3 兼容端点,全量加增量备份、并行压缩、恢复校验都是内置能力。想在自建存储上给 PostgreSQL 做企业级备份,从它开始,我们之前写过完整对接:用 pgBackRest 把 PostgreSQL 备份进 RustFS。

WAL-G — pgBackRest 的轻量替代,PG 圈另一个常见选择。除了 PostgreSQL,还覆盖 MySQL、Redis、MongoDB 等一串数据库,凭 WALG_S3_PREFIX 这类环境变量就能指到自建端点。如果你的备份清单里不止一种数据库,它比每样装一个专用工具省事。

restic — 通用文件级备份,内置 S3 后端,去重和加密是默认行为而不是插件。适合备份"目录"而不是"数据库"的场景:配置文件、家目录、容器卷。单二进制、跨平台,备份 cron 里写一行就能跑。

Velero — Kubernetes 集群备份的标准答案,备份的对象是 API 资源加 PV 数据,后端就是对象存储。值得提前知道的一件事:文件级备份(FSB)要装 privileged node-agent,而且桶上如果开了对象锁会坏掉备份删除,这两个坑比配置本身更耽误事。

clickhouse-backup — Altinity 维护的 ClickHouse 专用备份工具,支持把备份推到 S3 disk,也能直接读 remote 存储。配 ClickHouse 的 S3 磁盘和 TTL 迁移时它会一起用到。

二、同步与迁移(5 个)

rclone — 这一类的首选,没有之一。支持 70 多种后端,sync/copy/move/check 全套,--checksum 可以做内容级校验,从公有云拉数据回家、MinIO 迁 RustFS、两个桶之间对齐,都是它。实测对比和限速参数在这里:rclone 与 mc mirror:S3 对象存储同步实测对比。

mc — MinIO Client,但对任何 S3 兼容存储都能用。mirror 做同步,diff 做比对,watch 挂增量。它的 diff 输出为空不等于完全一致,这个坑值得单独读:mc diff 没输出,就能切流量了吗。迁移后的校验清单看这篇:对象存储迁移后怎么证明一个字节都没丢。

s5cmd — Go 写的并行 S3 工具,设计目标就是快。大目录拷贝、通配符批量删除这类操作,它靠并发把速度拉得很高,缺点是功能面比 rclone 窄,没有挂载也没有丰富的过滤语法。纯粹要灌数据的场景值得用它。

s3cmd — Python 系老牌工具,十几年历史。功能够用(multipart、加密上传、按前缀操作),速度一般,胜在几乎所有发行版的仓库里都有,临时救急不用装环境。新项目还是选 rclone。

AWS CLI — aws s3 cp/sync 加 --endpoint-url 指向自建端点就能用,aws s3api 能发更底层的请求。团队已经在用 AWS 的话,不用引入新工具,脚本直接换个 URL 就跑。

三、挂载成文件系统(6 个)

先把总原则放前面:对象存储挂载永远不是完整 POSIX,选型就是选"你的应用能接受哪些缺失"。随机写入多、要 chmod/chown 的应用,考虑 JuiceFS;读多写少的,FUSE 方案都够。

挂载方案按负载选型

JuiceFS — 严格说它不是"挂载 S3",是把 S3 当数据块、另配一个元数据引擎(Redis 等)组成完整 POSIX 文件系统。要随机写、要锁、要硬链接,它是唯一正解,代价是多养一个 Redis。实测在这里:JuiceFS + 对象存储:把 S3 变成 POSIX 文件系统实测。

s3fs — 最老牌的 FUSE 挂载,把桶映射成目录树,配置五分钟能跑。每个文件操作都对应 S3 请求,海量小文件场景会慢,但胜在语义直白、维护活跃,临时挂个桶下载点东西非常顺手。

GeeseFS — Yandex Cloud 团队从 goofys 分出来的分支,主打异步:写入、重命名、删除都先落本地再异步上传,还带磁盘缓存。小文件多的场景比 s3fs 快不少,symlink 和 xattr 也支持。限制是标准 S3 下文件属主、权限位这些元数据恢复不完整,挂载时用 --file-mode 一刀切。

Mountpoint for Amazon S3 — AWS 官方的高吞吐文件客户端,Linux only。设计立场很明确:不做低效的模拟,普通桶不支持 rename、不支持 chmod、默认不允许删除。适合"大量客户端顺序读大对象"的训练场景,别拿它当通用网盘。

rclone mount — rclone 顺手就能挂载,VFS 模式可选缓存策略。它的挂载是"辅助功能",高并发写入不如专用方案,但零额外安装、和你已有的 rclone 同步配置直接复用,临时挂载的首选。

goofys — GeeseFS 的前身,曾经是低内存高性能挂载的代表。要提醒的是它已基本停更,主干三年以上没有新提交,安全依赖在滚雪球。老脚本里还有它,新部署建议直接换 GeeseFS 或 s3fs。

四、压测(4 个)

warp — MinIO 出品的 S3 基准工具,单命令跑出 GET/PUT/STAT/DELETE 的吞吐和延迟,支持多主机分布式压测,还能对比两份报告看性能回归。十分钟出一份可复现报告的流程:用 warp 压测 S3 兼容存储实操。

COSBench — Intel 出的老牌分布式基准工具,Controller 加多 Driver 架构,一度是 Ceph 社区标配。但最后一次发版停在 2017 年底,Java 栈也老,新集群压测没有理由再选它,列在这里是为了帮你识别它——不少老文档还在推荐。

s3-benchmark — Wasabi 开源的 Go 工具,单二进制跑 GET/PUT/DELETE 基准,输出简洁。比 warp 功能少,适合快速摸底。

boto3 自写脚本 — 压测工具覆盖不到的负载画像(比如你的真实业务是 8 MB 分片读加偶发大对象写),用 boto3 十几行就能写出来。接口套路:十行 Python 代码,boto3 对接 RustFS。

怎么挑,一张速查

你要做的事 直接选 备选
数据库备份 pgBackRest(PG)/ WAL-G(多库) restic
K8s 备份 Velero —
迁移与同步 rclone s5cmd(纯灌数据)
应用要 POSIX JuiceFS GeeseFS(只读多/小文件多)
临时挂载下载 rclone mount s3fs
压测出报告 warp boto3 自写
老文档推荐的 cosbench、goofys 换成 warp / GeeseFS
posted @ 2026-11-19 12:42  对象存储与RustFS  阅读(3)  评论(0)    收藏  举报