当前位置: 首页 > news >正文

20250917_车辆定位系统aidata-01Apache Doris数据库备份+恢复+清理 流程操作文档

1、Doris FE、BE节点部署

全流程参考:https://blog.csdn.net/mmdewhite/article/details/130084461

2、Broker节点部署及在FE节点注册Broker

全流程参考: https://blog.csdn.net/zhou920786312/article/details/129347223

3、仓库创建

操作地点:数据库所在服务器的MySQL命令行

在Shell命令行输入mysql -uroot -P9030 -h 127.0.0.1以进入MySQL命令行

在备份之前首先要创建仓库用于保存快照。创建仓库的语句如下

CREATE REPOSITORY `仓库名` 
WITH BROKER `Broker名`
ON LOCATION "远程仓库路径"
PROPERTIES (部分参数 );

如下面代码块,即使用minio_broker创建了名为hdfs_backup_with_broker的仓库,并作为用户root链接到了hdfs://aidata2:9000/backup/路径的HDFS仓库上

CREATE REPOSITORY `hdfs_backup_with_broker` 
WITH BROKER `minio_broker`
ON LOCATION "hdfs://aidata2:9000/backup/"
PROPERTIES ("username" = "root" );

创建成功后可使用SHOW REPOSITORIES查看仓库。

注意事项:

  1. Broker节点需要能够解析aidata2指向的ip地址,或直接使用ip地址替代aidata2
  2. 使用的用户需要对应路径的读写权限
  3. 注意端口和防火墙权限

4、备份

操作地点:数据库所在服务器的MySQL命令行

备份需要数据库执行下面语句:

Use [待备份数据库名];

BACKUP SNAPSHOT [备份名] TO `[仓库名]` PROPERTIES ("type" = "full");

操作完成后,待备份数据库将会完成全量备份。备份过程中可使用SHOW BACKUP\G查看备份进度。备份完成后可使用SHOW SNAPSHOT ON [仓库名]查看储存在指定仓库中的快照信息。

详细语句用法参考:

https://doris.apache.org/zh-CN/docs/2.0/sql-manual/sql-reference/Data-Definition-Statements/Backup-and-Restore/BACKUP

https://support.huaweicloud.com/cmpntguide-lts-mrs/mrs_01_249202.html

5、备份导出

操作地点:数据库所在服务器的Shell命令行

使用BACKUP语句备份的内容将保存在HADOOP中,无法直接转存读取等,需要先从HADOOP中导出。在HADOOP中运行下面代码即可将备份文件导出,并且可以再次恢复到HADOOP中,从而恢复到Doris数据库中。

hadoop fs -get [待导出文件路径] [导出目标路径]

该代码直接将该文件导出到本地路径,导出后可选择压缩。

6、备份恢复

操作地点:数据库所在服务器的MySQL命令行

备份恢复需调用快照,使用RESTORE SNAPSHOT进行恢复

可使用SHOW SNAPSHOT ON [仓库名];查看指定仓库下的快照及其对应的时间戳。

RESTORE SNAPSHOT [备份名] from [仓库名]
Properties
(
"backup_timestamp"="[备份对应时间戳]",
"replication_num" = "[复制数量(不大于BE节点数)]"
);

备份恢复过程中可使用show restore\G;查看恢复状态

恢复语句用法参考:

https://doris.apache.org/zh-CN/docs/2.0/sql-manual/sql-reference/Data-Definition-Statements/Backup-and-Restore/RESTORE

7、快照清理

操作地点:数据库所在服务器的Shell命令行

快照备份时会在Hadoop仓库中储存快照,快照不会自动删除,因此需要定期处理删除。

查看快照

hadoop fs -ls /backup/__palo_repository_hdfs_backup_with_broker

快照在仓库中保存的路径为:

/backup/__palo_repository_[仓库名]/__ss_[快照名]

所有快照的删除操作如下:

hadoop fs -rm -r /backup/__palo_repository_hdfs_backup_with_broker/__ss*

8、快照恢复

操作地点:数据库所在服务器的Shell命令行

首先将保存在备份集10.1.3.15上的压缩包解压,进入到解压内容中,找到__ss_[快照名]格式的文件夹。解压后应能在/data/backup_py/tmp下找到。输入下面命令即可将快照复制到Hadoop仓库中,接着可以使用6、备份恢复中的操作从Hadoop仓库中将备份恢复到数据库中。

hadoop fs -cp file:///data/backup_py/tmp/* /backup/__palo_repository_hdfs_backup_with_broker

更多hadoop操作见:

https://hadoop.apache.org/docs/r1.0.4/cn/hdfs_user_guide.html

http://www.dtcms.com/a/390035.html

相关文章:

  • Redis 7.0 ACL实战:RBAC模型实现精细化权限控制
  • Lightrag 文档处理不成功(httpx.ReadTimeout 为主)的解决步骤与方法总结
  • Spring Boot + MySQL MCP 集成标准流程
  • 基于RK3588与ZYNQ7045的ARM+FPGA+AI实时系统解决方案
  • 基于Linux,看清C++的动态库和静态库
  • 多导睡眠五大PSG数据集统一格式化处理|SHHS
  • ZeroMQ基础
  • 【JavaGuide学习笔记】什么,Java中 native 也是一个关键字?
  • 【LWIP】STM32F429 + LWIP + DP83848 热插拔问题总结
  • RGWRados::Object::Write::_do_write_meta()
  • Shopify 集合页改造:增加 Banner 图片 + 点击加载更多功能
  • 泛函 Φ(u) = ∫[(u″)² + u² + 2f(x)u]dx − (u′(0))² 在 u(0)=u(1) 下的驻点方程与边界条件
  • JAVA高频面试题汇总:Java+ 并发 +Spring+MySQL+ 分布式 +Redis+ 算法 +JVM 等
  • 构建与运营“爬虫 IP 代理池”的方法论
  • 【文献笔记】Point Transformer
  • Linux | i.MX6ULL Modbus 移植和使用(第二十一章)
  • 几种微前端框架的沙箱策略
  • 黑盒测试:测试用例设计之边界值设计方法(边界值分析法)(上点、离点、内点)健壮性测试、单缺陷假设理论
  • 【题解】P1548 [NOIP 1997 普及组] 棋盘问题
  • scala中for推导式详细讲解
  • React学习 ---- 基础知识学习
  • C语言实现MATLAB中的Fir1带通滤波器
  • 微信小程序开发教程(十七)
  • 9月18日星期四今日早报简报微语报早读
  • SqlSugar 问题记录
  • 记一次宝塔+nginx+php8+thinkphp8多应用下某个应用报错404的问题 - nginx、php日志全无 - 无法追踪
  • Windows Server远程桌面(RDP)安全优化
  • 工具链过于分散会导致哪些问题
  • 【RAG】Youtu-GraphRAG
  • 惠普LaserJet Pro M203dn黑白激光打印机双面卡纸维修一例