当前位置: 首页 > news >正文

# 3.1.8<3.2.0<3.3.1,Apache DolphinScheduler集群升级避坑指南

一、版本介绍

本人的是集群3.1.8因为3.1.8的一些漏洞才升级到3.3.1,具体漏洞如下:

虽然上述漏洞也可以不用升级解决,但是3.3.1版本有更详细的权限管控资源便也升级了;3.3.1版本机器启动方式变得更复杂了,但是集群功能变得更好用了,资源利用率提高了。

二、先升级到3.2.0

先到官网下载对应安装包:

  • https://dolphinscheduler.apache.org/zh-cn/docs/3.2.0
  • https://dolphinscheduler.apache.org/zh-cn/docs/3.3.1

升级到3.2.0很容易,如下:

2.1 解压安装包

先关闭集群,解压按转包

tar -zxf apache-dolphinscheduler-3.2.0-bin.tar.gz

修改bin/env/文件配置
dolphinscheduler_env.sh
install_env.sh

2.2 驱动添加

MySQL、Oracle(看自己需求)驱动添加

[root@cm01 java]# cp mysql-connector-java.jar /opt/apache-dolphinscheduler-3.1.8-bin/alert-server/libs
[root@cm01 java]# cp mysql-connector-java.jar /opt/apache-dolphinscheduler-3.1.8-bin/api-server/libs
[root@cm01 java]# cp mysql-connector-java.jar /opt/apache-dolphinscheduler-3.1.8-bin/master-server/libs
[root@cm01 java]# cp mysql-connector-java.jar /opt/apache-dolphinscheduler-3.1.8-bin/worker-server/libs[root@cm01 java]# cp mysql-connector-java.jar /opt/apache-dolphinscheduler-3.1.8-bin/tools/libs

2.3 更新升级脚本

执行数据库升级脚本:

sh ./tools/bin/upgrade-schema.sh

2.4 资源迁移

3.2.0 版本资源中心重构,原资源中心内的资源将不受管理,您可以指定迁移到的目标租户,然后运行一次性资源迁移脚本,所有资源会迁移到目标租户的 .migrate 目录下。

示例:
指定已存在目标租户 abc,其资源根目录为 /dolphinscheduler/abc/

执行脚本:

sh ./tools/bin/migrate-resource.sh abc。

执行结果:
原文件资源 a/b.sh 迁移至 /dolphinscheduler/abc/resources/.migrate/a/b.sh

原UDF资源x/y.jar迁移至/dolphinscheduler/abc/udf/.migrate/x/y.jar

更新 UDF 函数绑定资源信息。

2.5 升级成功

这时候进数据库看看版本是否升级到3.2.0

执行启动过程:

./bin/start-all.sh

看看是否成功。

三、升级3.3.1(比较复杂)

3.1 解压安装包

tar -zxf apache-dolphinscheduler-3.3.1-bin.tar.gz

停止 dolphinscheduler 所有服务。

3.3.1版本下载下来会发现安装包很小才200多M,因为很多插件需要自己额外下载

修改cd /data/apache-dolphinscheduler-3.3.1-bin/bin/env/文件配置
直接复制过来
dolphinscheduler_env.sh

3.2 驱动添加以及配置修改

3.2.1 驱动添加按照2.2添加即可

这里的mysql驱动要换成8.0.16 以上
mysql-connector-java-8.0.16.jar

3.2.2 配置修改

3.2.2.1时区修改

# 把时间修改成 上海时区
可参考另外一篇文章 《3.1.2 海豚调度器的元数据库时间记录不对》
修改application.yaml

3.2.2.2 数据库明文密码修改成加密

 1023  vim /*/alert-server/conf/common.properties1024  vim /*/api-server/conf/common.properties1025  vim /*/master-server/conf/common.properties1026  vim /*/worker-server/conf/common.properties1028  vim /*/tools/conf/common.properties

3.3 下载插件依赖(需要连接外网)

# 下载需要一段时间
bash ./bin/install-plugins.sh 3.3.1mv dolphinscheduler-datasource-azure-sql-3.3.1.jar dolphinscheduler-datasource-azure-sql-3.3.1.jar.bak
路径下/data/apache-dolphinscheduler-3.3.1-bin/plugins/datasource-plugins/

work-server ->libs下加入2个jar
hadoop-common-3.3.4.jar
htrace-core4-4.2.0-incubating.jar

3.4 更新升级脚本

# 数据库升级
sh ./tools/bin/upgrade-schema.sh

3.5 资源迁移和血缘升级

参考官网添加链接描述:https://dolphinscheduler.apache.org/zh-cn/docs/3.3.1/guide/upgrade/upgrade

因为我没有资源和血缘,所以该步骤省略。

  • 资源迁移
    3.2.0 版本资源中心重构,原资源中心内的资源将不受管理,您可以指定迁移到的目标租户,然后运行一次性资源迁移脚本,所有资源会迁移到目标租户的 .migrate 目录下。

示例:
指定已存在目标租户 abc,其资源根目录为 /dolphinscheduler/abc/。

执行脚本:sh ./tools/bin/migrate-resource.sh abc。

执行结果:

原文件资源 a/b.sh 迁移至 /dolphinscheduler/abc/resources/.migrate/a/b.sh。
原 UDF 资源 x/y.jar 迁移至 /dolphinscheduler/abc/udf/.migrate/x/y.jar。
更新 UDF 函数绑定资源信息。

  • 血缘升级
    执行脚本:sh ./tools/bin/migrate-lineage.sh。

执行结果:

原血缘数据迁移至新血缘表 t_ds_workflow_task_lineage。
此脚本仅执行 upsert 操作,不执行删除操作,如果需要删除,您可以手动删除。

3.6 集群部署

复制第一台机器文件到第二台和第三台
/data/apache-dolphinscheduler-3.3.1-bin
挨个机器启动:

# 启动 api-server
bash ./bin/dolphinscheduler-daemon.sh start api-server# 启动 master-server
bash ./bin/dolphinscheduler-daemon.sh start master-server# 启动 worker-server
bash ./bin/dolphinscheduler-daemon.sh start worker-server# 启动 alert-server
bash ./bin/dolphinscheduler-daemon.sh start alert-server

启动后jps看一下进程是否起来

看看UI的界面有没有问题

四、坑点

4.1 升级到3.2.0 不小心把管理员密码给忘记了,重置密码,加密方式3.3.1之前都是md5加密,deepseek说是3.2.0之后是BCrypt 哈希值加密,是胡扯的。

原文链接:https://blog.csdn.net/weixin_48277834/article/details/151997830

http://www.dtcms.com/a/465203.html

相关文章:

  • 微算法科技(NASDAQ:MLGO)基于任务迁移的弹性框架重塑动态扩缩容,赋能边缘智能计算
  • 卡盟网站怎么做图片wordpress换网址插件
  • 【汽车篇】基于深度学习的门盖自动装配系统:汽车制造装配的革新力量
  • 乐迪信息:基于AI算法的煤矿作业人员安全规范智能监测与预警系统
  • 英文电商网站建设泛微oa办公系统教程
  • Windows环境搭建:PostGreSQL+PostGIS安装教程
  • SQL COUNT() 函数详解
  • 中山网站设计收费标准wordpress 右边栏
  • 坦桑尼亚网站域名后缀一个虚拟主机可以放几个网站
  • 从大模型到轻量级部署:知识蒸馏优化技术
  • 速通ACM省铜第二十一天(补) 赋源码(共现的数)
  • 自用,正点Linux虚拟机系统文件概况
  • 从“用框架”到“控系统”——业务模型和技术模型之间的映射
  • 洛谷 / 一本通 - dp 题目详解 7(超详细版)
  • 正点原子RK3568学习日记-GIT
  • 在Minio以STS方式获得临时凭据
  • 【多线程】屏障(Barrier)
  • 通过高新区网站建设兰州市城乡建设局网官网站
  • 商城网站建设如何建设网站设计的公司
  • 【OPENGL ES 3.0 学习笔记】第一天:认识渲染管道
  • 从数据沼泽到智能决策:数据驱动与 AI 融合的中台建设方法论与技术实践指南(二)
  • Trae Solo+豆包Version1.6+Seedream4.0打造“AI识菜通“
  • Linux 基金会牵头成立 React 基金会:前端开源生态迎来里程碑式变革
  • 机器学习数据处理
  • 学习笔记: 从C语言基础到Python基础的过渡
  • C语言编写、测试、维护、审查规范
  • 公司网站建设价格标准东莞产品网络推广
  • 从KPI入手,全面掌握LTE网络性能测试与优化
  • 基于LLaMA-Factory的LoRA微调实战与性能剖析​
  • 网络层协议之VRRP协议