当前位置: 首页 > wzjs >正文

郑州网站建设包括哪些网店推广平台

郑州网站建设包括哪些,网店推广平台,企业网站规划,湘潭做网站品牌磐石网络Flink CDC(Change Data Capture)是Flink的一种数据实时获取的扩展,用于捕获数据库中的数据变化,并且通过实时流式处理机制来操作这些变化的数据,在Flink CDC中通过Debezium提供的数据库变更监听器来实现对MySQL数据库的…

Flink CDC(Change Data Capture)是Flink的一种数据实时获取的扩展,用于捕获数据库中的数据变化,并且通过实时流式处理机制来操作这些变化的数据,在Flink CDC中通过Debezium提供的数据库变更监听器来实现对MySQL数据库的监听操作,通过与Spring Boot技术的集成可以更加高效的实现数据实时同步的操作。

下面我们就来介绍一下如何在Spring Boot中集成Flink CDC。

环境搭建

首先我们可以通过Docker容器技术来构建一个MySQL的数据库容器如下所示。

docker run --name mysql -e MYSQL_ROOT_PASSWORD=root -d -p 3306:3306 mysql:8.0

然后我们可以连接数据库然后创建用于测试的数据库表结构,如下所示。

CREATE DATABASE testdb;
USE testdb;CREATE TABLE employee (id INT AUTO_INCREMENT PRIMARY KEY,name VARCHAR(255),age INT
);INSERT INTO employee (name, age) VALUES ('John', 28), ('Alice', 30), ('Bob', 25);

搭建好MySQL数据库服务之后,接下来我们可以通过Docker启动Flink服务,如下所示。

docker run -d -p 8081:8081 --name flink-jobmanager flink:latest
docker run -d --link flink-jobmanager --name flink-taskmanager flink:latest taskmanager

在Spring Boot项目中集成Flink CDC

准备好服务之后,接下来我们就来构建一个Spring Boot的项目用来连接Flink CDC。如下所示,首先需要在项目的POM文件中添加Flink CDC和其他所需的依赖

<dependencies><!-- Spring Boot dependencies --><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-data-jpa</artifactId></dependency><!-- Flink dependencies --><dependency><groupId>org.apache.flink</groupId><artifactId>flink-connector-jdbc_2.11</artifactId><version>1.16.0</version>  <!-- 根据需要调整版本 --></dependency><!-- Flink CDC dependencies --><dependency><groupId>com.ververica</groupId><artifactId>flink-connector-debezium-mysql_2.11</artifactId><version>1.16.0</version></dependency><!-- MySQL JDBC driver --><dependency><groupId>mysql</groupId><artifactId>mysql-connector-java</artifactId><version>8.0.25</version></dependency>
</dependencies>

接下来就需要将Flink CDC连接到MySQL数据库并监听数据变动,需要在Spring Boot的配置文件中添加Flink CDC连接参数,如下所示。

spring.datasource.url=jdbc:mysql://localhost:3306/testdb?useSSL=false&serverTimezone=UTC
spring.datasource.username=root
spring.datasource.password=root

Flink CDC作业实现

接下来就是需要创建一个Flink作业来捕获数据库的变更情况并进行相关的逻辑处理,如下所示。

public class FlinkCDCJob {public static void main(String[] args) throws Exception {// 1. 创建流处理环境final StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();// 2. 配置Flink CDC的Debezium源DebeziumSourceFunction<String> sourceFunction = DebeziumSourceFunction.<String>builder().hostname("localhost").port(3306).username("root").password("root").databaseList("testdb").tableList("testdb.employee").startupMode(DebeziumSourceFunction.StartupMode.LATEST_OFFSET).deserializer(new JsonNodeDeserializationSchema()).build();// 3. 创建CDC数据流DataStream<String> stream = env.addSource(sourceFunction);// 4. 打印数据到控制台stream.map(new MapFunction<String, String>() {@Overridepublic String map(String value) throws Exception {return "CDC 数据:" + value;}}).print();// 5. 执行作业env.execute("Flink CDC Example");}
}

根据上面的代码实现,DebeziumSourceFunction用来配置一个数据库的连接,然后制定好需要监听的数据库以及数据库表,然后我们可以启动项目然后可以尝试往MySQL数据库的employee表中插入、更新或者是删除数据,这个时候我们就可以看到控制台中有对应的数据变化监听打印信息。

监听到数据变化情况之后,接下来,我们可以通过Flink的实时流处理操作将数据推送到Kafka、ElasticSearch等数据存储中。

总结

在上面介绍中,我们介绍了如何在Spring Boot中整合Flink CDC来实现数据库数据变化的实时捕获监听操作,在实际实现中,我们可以根据具体的业务需求对操作进行进一步的扩展,例如可以将CDC数据写入Kafka、Hadoop、Elasticsearch等实时数据平台,构建更强大的数据流处理系统。

http://www.dtcms.com/wzjs/17912.html

相关文章:

  • 北京城乡建设和住房门户网站百度推广账号
  • 网站制作哪家公司好优化师培训机构
  • wordpress查看jquery版本青岛百度关键词优化
  • 黑色企业网站石家庄热搜
  • 3d演示中国空间站建造个人网站制作多少钱
  • SQL如何建网站seo刷词工具在线
  • wordpress canvas武汉网优化seo公司
  • 余姚厂家高端网站设计重庆seo网站推广费用
  • 网站开发实验总结英文谷歌seo
  • php 商务网站开发实战如何推广好一个产品
  • 乌兰察布做网站公司什么叫seo
  • 营销网站 需求说明书网络推广
  • 公司重名 做网站seo网站建设优化
  • 200m的空间可以做大大的网站做一个app平台需要多少钱
  • 深圳网站设计公司发展历程网络营销的内涵
  • wordpress可视化主题seo入门黑帽培训教程
  • 虹口武汉阳网站建设网络销售平台排名
  • 秦皇岛市做网站优化百度营销官网
  • 秦皇岛市是几线城市优化品牌seo关键词
  • 网站规划建设前期规划方案百度客服在哪里找
  • 婚恋网站设计百度入口官网
  • 请简述网站制作流程网站seo教材
  • 企业信息管理系统er图广州中小企业seo推广运营
  • 淘宝做任务赚钱网站有哪些web成品网站源码免费
  • 怎么做视频解析的网站seo推广怎么收费
  • 广西住房城乡和建设厅网站首页图片搜索引擎
  • 做视频有赚钱的网站有哪些小时seo百度关键词点击器
  • 做网站和自媒体哪个好百度电脑版官网入口
  • 黑龙江省建设教育网站查询百度搜索引擎平台
  • 阿里云php网站建设教程如何注册网站平台