当前位置: 首页 > news >正文

ETLCloud中数据生成规则使用技巧

在数字化转型加速推进的背景下,数据生成规则作为数据工程的核心技术要素,其系统化应用已成为企业构建智能数据生态的关键路径。通过可配置的规则引擎实现数据的智能化构建。本文将结合ETLCloud平台的演示数据生成规则的使用技巧。

使用数据生成器规则中的生成6位随机数来演示

1.数据生成器

图片 1

使用数据生成器生成3条数据

图片 2

设置字段值id,并用数据生成规则中的生成6位随机数对他进行赋值

图片 3

运行成功后查看日志,生成的3个id均为随机数

图片 4

2.库表输入

以下是库表输入的场景

图片 5

在第三步输入字段可以配置数据生成规则

图片 6

下面是没有配置生成6位随机数的数据

图片 7

把id字段绑定生成6位随机数

图片 8

查看绑定生成6位随机数后的结果

图片 9

3.库表输出

搭配数据生成器来演示

图片 10

使用数据生成器生成3条如下数据

图片 11

图片 12

库表输出的配置,把id设为主键

图片 13

运行流程,流程显示成功插入3条数据

图片 15

但实际上数据库只插入了1条,因为id为主键不可重复

图片 14

在库表输出中的输出字段里讲id配置上生成6位随机数,再次运行流程查看效果

图片 16

图片 17

可以发现数据已经成功插入了

图片 18

4.数据清洗转换

搭配库表输入演示

图片 19

这是库表输入的数据

图片 20

绑定数据生成规则中的随机生成中文用户名

图片 21

配置过滤条件只让id为123的name生成随机中文用户名

图片 22

运行流程查看结果

图片 23

5.文本文件读取

使用文本文件读取组件读取test.txt文件

图片 24

图片 25

在文本文件读取组件中的第三部输入字段可以配置数据生成规则,我们先不配置运行流程

图片 26

可以看到输出的就是test.txt文件的内容

图片 28

我们将id字段配置上数据生成规则中的生成随机6位数,再次运行流程效果

图片 29

可以看到id已经是随机6位数的id了

图片 30

6.Excel读取

使用Excel读取组件读取test.xlsx文件

图片 32

图片 33

以下是Excel读取组件的配置,标题列配置选择自定义字段

图片 34

下面是字段配置,可以配置数据生成规则,现在先不配置,运行流程查看效果

图片 35

可以看到字段已经配置成我们想要的字段了

图片 36

现在将eid字段配置上生成6位随机数的数据生成规则,再次运行流程查看效果图片 37

可以看到eid的值已经变了

图片 38

以上就是数据生成规则的技巧!

最后

数据生成规则通过灵活的配置与算法设计,显著提升了数据工程任务的自动化水平与数据质量。在具体应用中,需结合业务场景选择合适的生成策略,并通过唯一性校验、错误处理等机制保障数据一致性。未来可进一步探索结合机器学习生成更复杂的数据模式,以满足智能化数据治理的需求。

相关文章:

  • DDoS攻防实战:从应急脚本到AI云防护系统
  • 系统入侵排查实战指南:从Windows到Linux的应急响应与溯源分析​
  • 6.10【Q】网络安全期末复习
  • Mac电脑 SSH客户端 - Termius
  • 【电路物联网】SDN架构与工作原理介绍
  • leetcode 135. 分发糖果
  • 由编译osgEarth源码引发的一系列问题(三)利用vcpkg安装osg与OSGEarth
  • Spring Boot 完整教程 - 从入门到精通(全面版)
  • Seaborn入门到上头:让数据可视化变成享受的艺术(附防秃指南)
  • 在WordPress中彻底关闭生成缩略图的方法
  • Python实现自动化识别蛋白-配体氢键
  • 爬取汽车之家评论并利用NLP进行关键词提取
  • Sentinel介绍
  • MongoDB入门指南:环境安装与基本操作
  • AR互动协助:开启企业协作新纪元​
  • R语言缓释制剂QBD解决方案之一
  • 96页PPT华为销售战略规划市场洞察品牌策略
  • 移动端 1px 问题解决方案
  • 如何诊断服务器硬盘故障?出现硬盘故障如何处理比较好?
  • @Cacheable 和 @CacheEvict 注解的详细使用说明及参数解析,结合 Spring Cache 的核心功能和实际开发场景
  • 可以做翻译兼职的网站/微博推广
  • 企业网站策划怎么样/google搜索网址
  • 网站内容作弊的形式/网络推广应该怎么做啊
  • 网站建设及维护协议/近期的新闻热点
  • 建设银行网银网站激活/seo就业
  • 新能源汽车价格及图片/seo站内优化