当前位置: 首页 > news >正文

Flink1.17.0集群的搭建

环境准备:VMware、CentOS7、FinalShell、Flink1.17.0

已有三个虚拟机,IP地址分别为:192.168.79.129,192.168.79.130,192.168.79.135

flink1.17.0和jdk下载:
链接: https://pan.baidu.com/s/1qiSUJZCCTXE6VuYr6z2aeQ?pwd=9qcb 提取码: 9qcb

1.下载flink-1.17.0安装包并解压

下载安装包flink-1.17.0-bin-scala_2.12.tgz,将安装包上传到192.168.79.129虚拟机的/usr/flink/目录下。(使用FinalShell可以直接拖动压缩包上传)

切换到压缩包目录下

cd /usr/flink

解压文件

tar -zxvf flink-1.17.0-bin-scala_2.12.tgz -C /usr/flink

2. 修改集群配置

在/usr/flink/flink1.17.0/conf目录下找到flink-conf.yaml文件,修改flink-conf.yaml文件内容。

JobManager节点地址.
jobmanager.rpc.address: 192.168.79.129
jobmanager.bind-host: 0.0.0.0
rest.address: 192.168.79.129
rest.bind-address: 0.0.0.0
TaskManager节点地址,需要配置为当前机器名
taskmanager.bind-host: 0.0.0.0
taskmanager.host: 192.168.79.129

在/usr/flink/flink1.17.0/conf目录下找到workers文件,修改workers文件内容。

指定192.168.79.129、192.168.79.130和192.168.79.135为TaskManager

在/usr/flink/flink1.17.0/conf目录下找到masters文件,修改masters文件内容。

3. 将文件夹拷贝到另外两个虚拟机上

在192.168.79.130虚拟机上新建/usr/flink文件夹

使用scp命令将192.168.79.129虚拟机上的flink1.17.0文件夹拷贝到192.168.79.130虚拟机上

scp -r /usr/flink/flink-1.17.0 root@192.168.79.130:/usr/flink/

(如果没有使用SSH,需要输入password)

修改192.168.79.130虚拟机的配置,在/usr/flink/flink1.17.0/conf目录下找到flink-conf.yaml文件,修改flink-conf.yaml文件内容。

TaskManager节点地址需要配置为当前虚拟机地址。

在192.168.79.135虚拟机上的操作同上。

4. 配置Java环境

如果没有Java环境会报错,先配置Java环境。

配置Java环境:

将jdk-8u162-linux-x64.tar.gz上传到192.168.79.129虚拟机的/usr/jdk目录下并解压。

tar -zxvf jdk-8u162-linux-x64.tar.gz

为了方便可以将jdk1.8.0_162文件夹重命名为jdk1.8

配置环境变量,修改/etc/profile文件。

export JAVA_HOME=/usr/jdk/jdk1.8
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib:$CLASSPATH
export JAVA_PATH=${JAVA_HOME}/bin:${JRE_HOME}/bin
export PATH=$PATH:${JAVA_PATH}

使profile生效

source /etc/profile

检查配置环境是否成功,可查看jdk版本。

在192.168.79.130和192.168.79.135虚拟机的操作同上。

5. 启动集群

bin/start-cluster.sh

在192.168.79.129虚拟机上输入此命令(如果没有SSH,则需要输入password)

集群成功启动后,在每个虚拟机下输入jps可查看进程情况:

192.168.79.129虚拟机:192.168.79.130虚拟机:192.168.79.135虚拟机:Master上有TaskManagerRunner、StandaloneSessionClusterEntrypoint,Workers上有TaskManagerRunner进程说明集群启动成功。

6. 访问Web UI

启动成功后,可以访问http://192.168.79.129:8081对flink集群和任务进行监控管理。

当前集群的TaskManager数量为3,由于默认每个TaskManager的Slot数量为1,所以总Slot数和可用Slot数都为3。

7. 停止集群

bin/stop-cluster.sh

在192.168.79.129虚拟机上输入此命令


文章转载自:

http://nv8CKVsH.dtLnz.cn
http://4OHXxnyZ.dtLnz.cn
http://AIbmAk0P.dtLnz.cn
http://dHfBAk29.dtLnz.cn
http://BDepMfuU.dtLnz.cn
http://BLKBqqJa.dtLnz.cn
http://am9zlcr7.dtLnz.cn
http://Cl9E37oV.dtLnz.cn
http://3t8EwrEi.dtLnz.cn
http://JeYr142c.dtLnz.cn
http://KHOTfOXU.dtLnz.cn
http://smkV5Sp8.dtLnz.cn
http://FkV4wCR4.dtLnz.cn
http://VBzbWvI1.dtLnz.cn
http://4DltyYGp.dtLnz.cn
http://XSwurEJT.dtLnz.cn
http://fKgRjYA7.dtLnz.cn
http://mwmzcwS0.dtLnz.cn
http://4WW7sWG8.dtLnz.cn
http://tR4xq6Zs.dtLnz.cn
http://DFuK3weQ.dtLnz.cn
http://eFkmpSV8.dtLnz.cn
http://wce2tnT7.dtLnz.cn
http://x9xBEaqv.dtLnz.cn
http://x30eQAp1.dtLnz.cn
http://37O9ByiW.dtLnz.cn
http://WOPf5P1x.dtLnz.cn
http://NBVtOS08.dtLnz.cn
http://Wfp7DDPn.dtLnz.cn
http://JruYthGD.dtLnz.cn
http://www.dtcms.com/a/379673.html

相关文章:

  • #C语言——刷题攻略:牛客编程入门训练(十二):攻克 循环控制(四)、循环输出图形(一),轻松拿捏!
  • 面试经典150题[029]:三数之和(LeetCode 15)
  • Ubuntu 24.04 搭建k8s 1.33.4
  • 从数字后端角度谈谈occ电路(一)
  • Hadoop简介:分布式系统的基石与核心架构详解
  • [数据结构] 优先级队列(堆)
  • 计算机毕业设计 基于深度学习的酒店评论文本情感分析研究 Python毕业设计项目 Hadoop毕业设计选题 机器学习选题【附源码+文档报告+安装调试】
  • 数据结构 Java对象的比较
  • EDID 数据结构解析与编辑工具:校验和计算、厂商/设备名编解码、物理地址读写、颜色与时序信息提取
  • 龙蜥8.10中spark各种集群及单机模式的搭建spark3.5.6(基于hadoop3.3.6集群)
  • Hadoop MapOutputBuffer:Map高性能核心揭秘
  • Kubernetes 弹性伸缩:深入讲解 HPA 和 VPA
  • 代理服务器是什么?怎么选择?
  • java Redisson 实现限流每秒/分钟/小时限制N个请求 -V2.0
  • 高并发、低延迟全球直播系统架构
  • zookeeper是啥
  • 短波红外相机在机器视觉检测方向的应用
  • 阿里云国际代理:如何利用RDS构建高可用、可扩展的数据库架构
  • 【Python】通俗理解反向传播
  • RFID技术在半导体电子货架上的应用方案
  • Windows 安装 Redis 教程
  • CMake 全流程开发实战:从零开始掌握C++项目构建、测试到一键分发的完整解决方案​
  • 如果数据量小但是点击后需要获取的是最新的定位信息,这种时候采取什么策略最优?
  • 使用 Pyinstaller 打包 PPOCRLabel
  • 科技信息差(9.12)
  • 是德科技 | 关于AI 数据中心时代的光通信的精选问答
  • 深入剖析 Elasticsearch (ES) 的近实时搜索原理
  • Qt5 | TCP服务器开源模板工程实战
  • 飞鹤财报“新解”:科技筑牢护城河,寒冬凸显龙头“硬核力”
  • 第6.2节 Android Agent开发<一>