当前位置: 首页 > news >正文

DolphinScheduler 集成DataX

DataX 与 DolphinScheduler 同服务器部署步骤

  1. 下载 DataX
wget https://datax-opensource.oss-cn-hangzhou.aliyuncs.com/202308/datax.tar.gz
tar -zxvf datax.tar.gz -C /home/  # 解压到指定目录
  1. 配置 DataX 环境变量
    编辑 DolphinScheduler 的环境配置页面,按以下内容填写:
export PYTHON_LAUNCHER=/usr/bin/python        # Python 执行路径(根据实际路径调整)
export DATAX_LAUNCHER=/home/datax/bin/datax.py # DataX 主程序路径
  1. 关键说明
    同服务器限制:DolphinScheduler 调用 DataX 需通过 Python 直接执行脚本,因此两者必须在同一台服务器。
    路径验证:
    确保 python 路径正确:which python
    确保 DataX 解压后 datax.py 路径存在:ls /home/datax/bin/datax.py
  2. 后续操作
    在 DolphinScheduler 中创建任务时,选择 DataX 任务类型,系统会自动读取配置的路径执行。
    在这里插入图片描述
    配置datax及python环境
    配置地址在/dolphinscheduler-bin/bin/env/dolphinscheduler_env.sh
export DATAX_HOME=/data/datax

修改完DATAX_HOME ,重启ds即可,操作完后,可直接使用dophinscheduler的datax节点
注意事项
若 Python 路径不同,替换 /usr/bin/python 为实际路径(如 /usr/bin/python3)。
DataX 版本需与 DolphinScheduler 兼容,建议使用官方最新稳定版。
权限问题:确保 DolphinScheduler 服务账户对 /home/datax/ 有读写权限。

http://www.dtcms.com/a/314476.html

相关文章:

  • 前端VUE基础环境搭建
  • opencv引入libavif
  • typeof和instanceof区别
  • 静电干扰误报率↓85%!陌讯多模态融合算法在智慧环卫检测优化
  • python基础:数据解析BeatuifulSoup,不需要考虑前端形式的一种获取元素的方法
  • 【前端】JavaScript基础知识及基本应用
  • 【AMD】编译llama.cpp实践版
  • 管家级教程:在 Windows 上配置 WSL2、CUDA 及 VLLM,开源音频克隆项目
  • 解决 Alpine 容器中编译 confluent-kafka-go 报错的问题
  • LLaMA-Factory微调教程4:模型评估
  • Spring Boot + ShardingSphere 分库分表实战
  • 【CVPR2025】计算机视觉|AnomalyNCD:让工业异常分类“脱胎换骨”!
  • 计算机视觉(2)车规摄像头标准
  • YOLO11涨点优化:原创自研DSAM注意力!基于BiLevelRoutingAttention的颠覆性升级
  • nodejs 封装方法将打印日志输出到指定文件
  • javacc实现简单SQL解析器
  • Llama 3词汇表揭秘:128,000个token解析:merges 是子词分词算法
  • 数据结构——单向链表部分操作及valgrind安装
  • Exporters | 安装mongodb_exporter
  • 数据分页异步后台导出excel
  • 【Ubuntu】请问,`ip -a`显示的“wlo1”是什么呀?
  • 笔试——Day28
  • 如何在 Ubuntu 24.04 上安装和配置 TFTP 服务器
  • 高防服务器租用的作用都有哪些?
  • 上海交通大学联合项目论文解读 | Hume 模型:视觉 - 语言 - 动作模型中引入系统2思维
  • 单片机51 day46
  • 部署 Kibana 8.2.2 可视化管理 Elasticsearch 8.2.2 集群
  • 【测试工程思考】测试自动化基础能力建设
  • 机试备考笔记 4/31
  • Linux开发利器:探秘开源,构建高效——基础开发工具指南(下)【make/Makefile】