Spring Boot 集成 Flink CDC 实现 MySQL 到 Kafka 实时同步
Spring Boot 集成 Flink CDC 实现 MySQL 到 Kafka 实时同步
📌 项目背景
在大数据实时处理场景中,数据库变更数据的捕获与传输是关键环节。Flink CDC 提供了从 MySQL 等数据库中实时捕获数据变更的能力,并通过 Apache Flink 引擎实现流式处理。
本项目使用 Spring Boot + Flink CDC + Apache Flink + Apache Kafka 构建一个完整的实时数据管道,将 MySQL 数据库中的表结构和数据变更实时同步到 Kafka 中。
✅ 技术栈版本说明
组件 | 版本 |
---|---|
Jdk | 1.8 |
Spring Boot | 2.3.12.RELEASE |
Apache Flink | 1.15.4 |
Flink CDC | 2.4.0 |
MySQL | 5.7 / 8.0(支持 Binlog) |
Kafka | 3.x(兼容性 |