当前位置: 首页 > news >正文

ticdc同步集群部署

一、部署
前置条件:

由于ticdc是集成在tidb工具包中的(tidb-community-toolkit-v7.5.2-linux-amd64)
所以在使用tiup离线部署ticdc前需要将工具包merge到tidb-server包中
cd tidb-community-server-${version}-linux-amd64/
cp -rp keys ~/.tiup/

tiup mirror merge …/tidb-community-toolkit-${version}-linux-amd64


通过TiUP有两种方式部署TiCDC
1:在TiDB集群部署时一同部署TiCDC。
在集群配置文件(topology_test.yaml)中添加


cdc_servers:
#cdc节点1地址- host: xx.xx.xx.xx
#gc过期时间,单位为秒gc-ttl: 86400
#cdc相关数据存储位置data_dir: "/cdc-data"
#cdc节点2地址-  host:xx.xx.xx.xxgc-ttl: 86400data_dir: "/cdc-data"

通过添加以上配置,在TiDB集群拉起时就会自动部署好TiCDC

2:在已有的TiDB集群中新增TiCDC组件

准备扩容配置文件,与其他组件扩容配置文件类似。(在源集群中控机上新加配置scale-out.yml,IP为cdc节点IP,注:确保中控机和这三个cdc节点能互信登陆)


cdc_servers:- host: xx.6.1.1gc-ttl: 86400data_dir: /tidb-data/cdc-8300- host: xx.6.1.2gc-ttl: 86400data_dir: /tidb-data/cdc-8300- host: xx.6.1.4gc-ttl: 86400data_dir: /tidb-data/cdc-8300

执行扩容命令(在源tidb集群执行)

tiup cluster scale-out tidb-test scale-out.yml

二、应用

TiCDC支持将上游的TiDB数据同步至TiDB、MySQL、Kafka等,本文已同步至tidb容灾节点为例

tiup cdc cli changefeed create --pd=http://xxx.xxx.xx.xx:2379 --sink-uri=“tidb://root:xxx@xxx.xxx.xxx.xxx:4000/” --changefeed-id=“replication-test-1” --sort-engine=“unified”

如遇到报错
在这里插入图片描述

需修改mysql时区

mysql_tzinfo_to_sql /usr/share/zoneinfo | mysql -u root mysql -p

#查看有哪些同步任务

tiup cdc cli changefeed list --pd=http://xxx.xx.xx.xx:2379

#查看同步任务状态

tiup cdc cli changefeed query --pd=http://xxx.xx.xx.xx:2379 --changefeed-id=replication-test-1
#停止同步
tiup cdc cli changefeed pause --pd=http://xxx.xx.xx.xx:2379 --changefeed-id=replication-test-1

#resume-恢复

tiup cdc cli changefeed resume–pd=http://xxx.xx.xx.xx:2379 --changefeed-id=replication-test-1

http://www.dtcms.com/a/312423.html

相关文章:

  • Java ++i 与 i++ 底层原理
  • 六、Linux核心服务与包管理
  • Unity_数据持久化_IXmlSerializable接口
  • java:判断两个实例(对象)相等
  • 多向量检索:lanchain,dashvector,milvus,vestorsearch,MUVERA
  • RabbitMQ面试精讲 Day 9:优先级队列与惰性队列
  • SQL154 插入记录(一)
  • 十八、Javaweb-day18-前端实战-登录
  • JavaScript 性能优化实战指南:从运行时到用户体验的全面提升​
  • 【openlayers框架学习】十:openlayers中控件的使用
  • 学习笔记《区块链技术与应用》第六天 问答 匿名技术 零知识证明
  • Apple基础(Xcode④-Flutter-Platform Channels)
  • Stream 过滤后修改元素,却意外修改原列表
  • Swift 运算符
  • 【Django】-9- 单元测试和集成测试(上)
  • Android 之 蓝牙通信(4.0 BLE)
  • Redis+Lua的分布式限流器
  • C++编译过程与GDB调试段错误和死锁问题
  • 北邮:LLM强化学习架构Graph-R1
  • C++-二叉树OJ题
  • 【反转字符串中的单词】
  • 从零开始设计一个分布式KV存储:基于Raft的协程化实现
  • 吴恩达【prompt提示词工程】学习笔记
  • C# async await 实现机制详解
  • GR-3:字节跳动推出40亿参数通用机器人大模型,精确操作提升250%,开启具身智能新纪元!
  • FasrCGI
  • ospf笔记和 综合实验册
  • visual studio code 怎样将主题修改成亮色,并且配置中文界面
  • zookeeper常见命令和常见应用
  • MySQL——运维篇