当前位置: 首页 > news >正文

flink的Standalone-HA模式安装

FlinkStandalone-HA模式安装指南

ApacheFlink的Standalone-HA(高可用)模式为生产环境提供了故障恢复能力,确保JobManager故障时作业能够自动恢复。以下是安装配置的关键步骤:

环境准备

首先确保所有节点已安装Java8+环境,并配置SSH免密登录。下载Flink二进制包并解压到集群所有节点相同目录下。

配置修改

1.conf/flink-conf.yaml核心配置:
```yaml
jobmanager.rpc.address:master-node
high-availability:zookeeper
high-availability.storageDir:hdfs://namenode:8020/flink/ha/
high-availability.zookeeper.quorum:zk1:2181,zk2:2181,zk3:2181
```

2.conf/masters文件指定主备JobManager:
```
master-node:8081
backup-node:8081
```

3.conf/workers文件列出所有TaskManager节点

ZooKeeper配置

Standalone-HA依赖ZooKeeper进行领导者选举和状态存储。需提前部署3节点ZooKeeper集群,并确保网络连通性。

启动集群

1.首先启动ZooKeeper服务
2.在HDFS上创建HA目录
3.在主节点执行`bin/start-cluster.sh`启动集群
4.通过`bin/historyserver.shstart`启动历史服务器(可选)

验证部署

访问主节点WebUI(默认8081端口)确认组件状态。提交测试作业后,可手动kill主JobManager进程,观察备节点是否自动接管,作业是否继续运行。

Standalone-HA模式虽不如YARN/K8s集成方案灵活,但配置简单,适合中小规模生产环境。注意定期清理HDFS上的HA目录,避免存储空间无限增长。
http://www.dtcms.com/a/473386.html

相关文章:

  • Flink时态表关联:实现数据“时间旅行”的终极方案
  • 做哪类英文网站赚钱wordpress 页面 列表
  • nginx + spring cloud + redis + mysql + ELFK 部署
  • 【黑马点评 - 实战篇01】Redis项目实战(Windows安装Redis6.2.6 + 发送验证码 + 短信验证码登录注册 + 拦截器链 - 登录校验)
  • 汕头市通信建设管理局网站二网站手
  • FreeRTOS小记
  • 数据结构实战:顺序表全解析 - 从零实现到性能分析
  • 【C++进阶】继承上 概念及其定义 赋值兼容转换 子类默认成员函数的详解分析
  • 华为matebook16s 2022禁用触摸板和触摸屏操作
  • GridRow 和 Column 有啥区别
  • 030159网站建设与维护中国科技成就素材
  • Echarts 5.6.0 Grid 坐标系中 Y 轴可视化的优化之路
  • Java 线程池如何知道一个线程的任务已经执行完成
  • JVM字节码与类的加载(一):类的加载过程详解
  • 强军网网站建设网站需要备案才能建设吗
  • 耄大厨——AI厨师智能体(3-工具调用)
  • (二)黑马React(导航/账单项目)
  • SA-LSTM
  • 【Java并发】深入理解synchronized
  • Docker 安装 Harbor 教程
  • Python+Flask+Prophet 汽车之家二手车系统 逻辑回归 二手车推荐系统 机器学习(逻辑回归+Echarts 源码+文档)✅
  • AI_NovelGenerator:自动化长篇小说AI生成工具
  • 济南网站制作开通免费个人简历模板官网
  • 全链路智能运维中的异常检测与根因定位技术
  • 解构 CodexField:创作者经济到模型金融化的代币逻辑与潜力
  • SpringBoot 实现自动数据变更追踪
  • C语言⽂件操作讲解(3)
  • 对网站做数据分析北京市建设工程信息
  • 1.6虚拟机
  • XCP服务