当前位置： 首页 > wzjs >正文

尚义网站建设wl17581苏州建网站需要什么

wzjs 2025/9/18 12:19:22
尚义网站建设wl17581,苏州建网站需要什么,wordpress自动发布模块,西安网站开发huanxiKettle 简介 Kettle 最初由 Matt Casters 开发，是 Pentaho 数据集成平台的一部分。它提供了一个用户友好的界面和丰富的功能集，使用户能够轻松地设计、执行和监控 ETL 任务。Kettle 通过其强大的功能和灵活性，帮助企业高效地处理大规模数据集…
Kettle 简介

Kettle 最初由 Matt Casters 开发，是 Pentaho 数据集成平台的一部分。它提供了一个用户友好的界面和丰富的功能集，使用户能够轻松地设计、执行和监控 ETL 任务。Kettle 通过其强大的功能和灵活性，帮助企业高效地处理大规模数据集成任务。

主要组成部分
  1. Spoon：
    • 用途：Spoon 是 Kettle 的图形化设计工具。用户可以使用 Spoon 设计和调试 ETL 转换和作业。
    • 功能：拖放式界面、预览数据、测试 ETL 流程、管理连接、编写脚本等。
  2. Pan：
    • 用途：Pan 是一个命令行工具，用于执行由 Spoon 设计的 ETL 转换。
    • 功能：通过命令行执行转换、调度作业、集成到其他自动化流程中。
  3. Kitchen：
    • 用途：Kitchen 是一个命令行工具，用于执行由 Spoon 设计的 ETL 作业。
    • 功能：通过命令行执行作业、调度作业、集成到其他自动化流程中。
  4. Carte：
    • 用途：Carte 是一个轻量级的 Web 服务器，提供远程执行和监控功能。
    • 功能：远程执行和监控 ETL 转换和作业、查看日志、管理集群等。
  5. Repositories：
    • 用途：存储和管理 ETL 转换和作业的地方。
    • 功能：可以使用数据库或文件系统作为存储库，支持版本控制和共享。
主要功能和特点

  1. 数据提取：

    • 支持多种数据源，如关系数据库、文件（CSV、Excel、XML 等）、大数据平台（Hadoop、Hive 等）、云存储（Amazon S3、Google Drive 等）、Web 服务和 API 等。

  2. 数据转换：

    • 丰富的转换步骤，包括数据清洗、数据聚合、数据过滤、数据排序、数据连接、数据拆分、数据类型转换等。

  3. 数据加载：

    • 支持将数据加载到多种目标系统中，如关系数据库、大数据平台、文件系统、云存储等。

  4. 调度和自动化：

    • 支持通过命令行工具（Pan 和 Kitchen）和调度器（如 cron 或 Windows 任务计划）进行调度和自动化执行。

  5. 扩展性：

    • 提供了插件机制，用户可以编写自定义插件，扩展 Kettle 的功能。
    • 支持 JavaScript 和 Java 进行脚本编写，增强转换和作业的灵活性。

  6. 集群和并行处理：

    • 支持集群模式，能够在分布式环境中并行处理大规模数据。
    • 提供了分布式 ETL 执行和负载均衡功能。

  7. 数据质量和数据治理：

    • 提供了数据验证、数据一致性检查和数据校验功能，帮助确保数据的质量和一致性。

  8. 实时数据处理：

    • 支持实时数据流处理，通过集成 Kafka、MQTT 等流处理平台，实现实时数据的提取、转换和加载。
集成 Kettle

将 Kettle（Pentaho Data Integration, PDI）集成到 Spring Boot 项目中，可以实现 ETL 流程的自动化和集成化处理。以下是详细的集成过程：

准备工作
  1. 下载 Kettle：从 Pentaho 官网下载 Kettle（PDI）的最新版本，并解压到本地目录。
  2. Spring Boot 项目：确保已有一个 Spring Boot 项目，或新建一个 Spring Boot 项目。
引入 Kettle 依赖

在 Spring Boot 项目的 pom.xml 文件中添加 Kettle 所需的依赖。你可以将 Kettle 的 JAR 文件添加到本地 Maven 仓库，或直接在项目中引入这些 JAR 文件。

<dependencies><!-- Spring Boot 依赖 --><!-- Kettle 依赖 --><dependency><groupId>pentaho-kettle</groupId><artifactId>kettle-core</artifactId><version>9.4.0.0-343</version></dependency><dependency><groupId>pentaho-kettle</groupId><artifactId>kettle-engine</artifactId><version>9.4.0.0-343</version></dependency><dependency><groupId>pentaho-kettle</groupId><artifactId>kettle-dbdialog</artifactId><version>9.4.0.0-343</version></dependency><dependency><groupId>org.apache.commons</groupId><artifactId>commons-vfs2</artifactId><version>2.7.0</version></dependency><!-- 根据需要添加其他 Kettle 依赖 --><!-- 操作数据库数据时添加相应的数据库依赖 --></dependencies>
处理密码加密

在 resources 目录下创建 kettle-password-encoder-plugins.xml 文件，用于配置密码加密插件：

<password-encoder-plugins><password-encoder-plugin id="Kettle"><description>Kettle Password Encoder</description><classname>org.pentaho.support.encryption.KettleTwoWayPasswordEncoder</classname></password-encoder-plugin></password-encoder-plugins>

kettle-core依赖中org.pentaho.support.encryption.KettleTwoWayPasswordEncoder类实现了TwoWayPasswordEncoderInterface接口，用于处理密码的加密和解密操作。

添加 Spoon 的任务文件

在 Kettle（Pentaho Data Integration，PDI）中，作业（Job）和转换（Transformation）是两种核心的 ETL 组件，它们在设计和功能上有着本质的区别。

转换（Transformation）
  1. 数据处理流程：转换是一个数据处理流程，专注于数据的提取（Extract）、转换（Transform）和加载（Load）。
  2. 行级处理：转换以行级处理数据，每次处理一行数据，并将其传递给下一步骤。
  3. 任务文件为.ktr文件。
作业（Job）
  1. 任务管理和控制流程：作业是一个任务管理和控制流程，负责调度和控制一系列任务的执行顺序。
  2. 步骤级处理：作业以步骤为单位处理任务，每次执行一个步骤，然后根据条件决定执行下一个步骤。
  3. 任务文件为.kjb文件。
区别
  1. 转换处理数据行，作业处理任务步骤。
  2. 转换中的步骤是并行执行的，而作业中的步骤是顺序执行的。
  3. 转换侧重于数据的处理和转换，作业侧重于任务的调度和管理。
  4. 转换主要通过数据流控制，作业提供了丰富的逻辑控制（条件判断、循环、错误处理等）。
  5. 转换适用于复杂的数据处理流程，作业适用于任务调度和控制。

在 Spring Boot 项目的 resources 目录下，创建一个 kettle 目录，并将 Kettle 的任务文件（如 转换1.ktr）复制到该目录中。

编写 Kettle 服务类

创建一个服务类，用于执行 Kettle 转换或作业。

package com.example.kettletest.service.impl;import com.example.kettletest.service.KettleJobService;
import org.pentaho.di.core.KettleEnvironment;
import org.pentaho.di.core.exception.KettleException;
import org.pentaho.di.core.exception.KettleXMLException;
import org.pentaho.di.core.util.EnvUtil;
import org.pentaho.di.job.Job;
import org.pentaho.di.job.JobMeta;
import org.pentaho.di.trans.Trans;
import org.pentaho.di.trans.TransMeta;
import org.springframework.core.io.ClassPathResource;
import org.springframework.stereotype.Service;import java.io.File;
import java.io.IOException;/*** @author 罗森* @date 2024/6/6 13:21*/
@Service
public class KettleJobServiceImpl implements KettleJobService {@Overridepublic void runTaskFile(String taskFileName) {// 初始化 Kettle 环境try {KettleEnvironment.init();EnvUtil.environmentInit();} catch (KettleException e) {throw new RuntimeException(e);}// 执行任务文件if (taskFileName.endsWith(".ktr")) {taskFileKTR(taskFileName);} else if (taskFileName.endsWith(".kjb")) {taskFileKJB(taskFileName);} else {throw new IllegalArgumentException("Unsupported file type: " + taskFileName);}}/*** 针对kjb文件的操作* @param taskFileName*/public void taskFileKJB(String taskFileName) {try {// 获取资源文件路径ClassPathResource resource = new ClassPathResource("kettle/" + taskFileName);File jobFile = resource.getFile();// 加载 KJB 文件JobMeta jobMeta = new JobMeta(jobFile.getAbsolutePath(), null);// 创建作业对象Job job = new Job(null, jobMeta);// 启动作业job.start();// 等待作业完成job.waitUntilFinished();if (job.getErrors() > 0) {System.out.println("There were errors during job execution.");} else {System.out.println("Job executed successfully.");}} catch (IOException | KettleXMLException e) {e.printStackTrace();}}/*** 针对ktr文件的操作* @param taskFileName*/public void taskFileKTR(String taskFileName) {try {// 获取资源文件路径ClassPathResource resource = new ClassPathResource("kettle/" + taskFileName);File transFile = resource.getFile();// 加载 KTR 文件TransMeta transMeta = new TransMeta(transFile.getAbsolutePath());// 创建转换对象Trans trans = new Trans(transMeta);// 启动作业trans.execute(null);// 等待作业完成trans.waitUntilFinished();if (trans.getErrors() > 0) {System.err.println("There were errors during Transformation execution.");} else {System.out.println("Transformation executed successfully!");}} catch (IOException | KettleException e) {e.printStackTrace();}}
}
常见问题解决办法

  1. 运行后报错信息为：Unable to find plugin with ID 'Kettle'. If this is a test, make sure kettle-core tests jar is a dependency. If this is live make sure a kettle-password-encoder-plugins.xml exits in the classpath.

    **解决办法：**在 resources 目录下创建 kettle-password-encoder-plugins.xml 文件。

  2. 运行后报错信息为：ERROR (version 9.4.0.0-343, build 0.0 from 2022-11-08 07.50.27 by buildguy) : A serious error occurred during job execution: 无法找到作业的开始点.

    **解决办法：**为Spoon制作的作业任务增加开始节点。

  3. 运行后报错信息为：Can't run transformation due to plugin missing.

    **解决办法：**此问题通常出现在涉及类似于导出excel文件、json文件时。在初始化 Kettle 环境之前指明相关插件的绝对路径（相关插件通常在Kettle本地解压文件夹中的plugins目录下），新增以下代码：

    StepPluginType.getInstance().getPluginFolders().add(new PluginFolder("E:\Kettle\pdi-ce-9.4.0.0-343\data-integration\plugins", false, true));

    将代码中的地址换成您本地的绝对地址。

（END）
by luosen.


文章转载自：

http://pcwfOCVg.pdbgm.cn
http://nf16pHwC.pdbgm.cn
http://7viMwscw.pdbgm.cn
http://xct8rBEh.pdbgm.cn
http://Ywxi0hS4.pdbgm.cn
http://ANGC9HB5.pdbgm.cn
http://zoXX1irQ.pdbgm.cn
http://0QHDU8xQ.pdbgm.cn
http://kd9Bmeab.pdbgm.cn
http://I1L4NbL0.pdbgm.cn
http://EOCiQ0CW.pdbgm.cn
http://7aqJEzdI.pdbgm.cn
http://j7F7WVKS.pdbgm.cn
http://CQBRLG0P.pdbgm.cn
http://524JhH9l.pdbgm.cn
http://Z5dlZcdd.pdbgm.cn
http://VolCwjr5.pdbgm.cn
http://qqrvD2Ad.pdbgm.cn
http://wB2GUKxz.pdbgm.cn
http://WZvZW0Od.pdbgm.cn
http://3z9vtXdg.pdbgm.cn
http://vjUeuHz6.pdbgm.cn
http://giFlq4u9.pdbgm.cn
http://G6j6qhAv.pdbgm.cn
http://iS895bA0.pdbgm.cn
http://fzGj3Wh9.pdbgm.cn
http://PH5Bv4ro.pdbgm.cn
http://b6yFKbgL.pdbgm.cn
http://R1PdakRk.pdbgm.cn
http://I6L9l8fy.pdbgm.cn
http://www.dtcms.com/wzjs/779385.html

相关文章：

  • 怎样登录柳州建设网站深圳seo优化公司
  • 静安网站建设透明管理系统网站模板
  • 创建一个免费网站长春网站排名公司
  • 网站底部悬浮二维码网站建设源码
  • 网站前台后台专门做老年旅游的网站
  • 网站做淘宝联盟有哪个网站可以做ppt赚钱
  • 多用户商城网站方案wordpress 添加代码
  • 网站制作和维护费用备案系统新增网站
  • 嘉兴企业网站制作大连公司
  • 湘潭什么网站做c1题目长春星宿网站建设公司怎么样
  • 网站开发技术的发展深圳公司建立网站
  • pyhton做网站wordpress 流量监控
  • 佛山网站建设费用用vs2010做免费网站模板
  • 苏州做淘宝网站天眼查企业入口免费
  • 内销机械做哪个网站好wordpress 繁體
  • 网站优化工作怎么样个人网站备案名字重要吗
  • 企业网站建设计划西安网站建设 app
  • 西宁企业做网站动漫网站的建设目标
  • 江苏省网站建设哪家好wordpress超时时间
  • wordpress网站之间互联山西软件开发公司排行
  • 营销网站制作方案品牌网站建设等高端服务
  • 企业网站建设的原则深圳市住房和建设工程交易
  • 正规网站建设空间中国住房和城乡建设部查询网站
  • 营销专业网站注册一个网站
  • 搜索引擎关键词推广南昌seo推广公司
  • 书店网站网站建设规划书做美图 网站有哪些
  • 手机建立网站的软件农特产品网站建设合同模板
  • 金属质感 网站网站编程论文
  • 什么公司做网站的多二手购物网站建设方案
  • 网站开发工程师培训成都学校网站建