当前位置: 首页 > news >正文

zcbus使用数据抽取相当数据量实况

  • 背景。业务环境部署zcbus融合平台。对客户数据库中数据进行抽取。
  • 全量抽取。
1000万全表根据条件抽取(10万数据)

增量抽取

  • 准备工作
客户数据库系统准备工作是否需要
客户db系统 oracle用户权限
客户数据库添加ogg用户
客户提供的ogg用户要具有查询权限
需要在客户数据库系统部署ogg程序(推送端)
业务机准备工作是否需要
安装zcbus融合系统(docker)
通过windows电脑访问zcbus是否可用(能看到登录页面)通常需要客户开通访问业务机的端口,程序映射端口,如业务机ip:8890
业务机安装ogg程序的接收端(管理端mgr)

安装问题点

1. 在客户db系统安装ogg配置需要注意。配置文件要增加ogg访问磁盘文件asm的账号密码。(没有可不配置应该是)。

  • 这部分很重要,否则会导致ogg读取归档日志文件失败。
    在这里插入图片描述
  • 报错提示找不到文件路径。

2. ogg接收端(mgr)与推送端(ogg)调试。出现问题的点。

在这里插入图片描述

  • 这个问题会很严重,会出现在推送段启动ogg,却报错日志。端口confused
    在这里插入图片描述

3. 在准备工作完成后要在页面配置访问源库的连接(发布时配置的数据源)

  • 配置时要使用oracle服务名。配置实例名会出现如下错误
    在这里插入图片描述

  • 可通过在目标库系统使用sqlplus命令进行测试。若能连接,页面也可配置,完成连接测试。如下

sqlplus <ogg用户>/<ogg用户密码>@<ip>:<port>/<服务名>
  • 可通过lsnrctr services查询源库实服务名在这里插入图片描述
  • 页面配置。要配置服务名,此处是用ogg的方式发布的。
    在这里插入图片描述

4. 系统之间端口访问问题

问题解释
端口telnet 可以联通不表示程序可以正常建立连接。是否证明程序可使用?因为中间的防火墙测录导致,切勿盲目尝试,应该去找客户反应情况,开通端口
  • 如上问题举例:navicat创建数据库连接失败。但ip端口可通过telnet验证;浏览器无法访问zcbus系统,但是telnet通过验证。

5. 沟通问题

  • 客户时间普遍会下午处理你的问题。特别是周一会在上午开会。尽量准备项目问题清单同意提供解决。

6. 处理问题操作机器。特别是防火墙类。未问勿动,避免远程连接中断影响使用,延误进度。

总结。

  • 实际工作进度会加倍与计划的时间周期。若计划3天完成,会出现1周才能干完的情况。
http://www.dtcms.com/a/276466.html

相关文章:

  • 8. JVM类装载的执行过程
  • hive的索引
  • DBeaver连接MySQL8.0报错Public Key Retrieval is not allowed
  • C语言基础知识--位段
  • UE制作的 AI 交互数字人嵌入到 Vue 开发的信息系统中的方法和步骤
  • 【MaterialDesign】谷歌Material(Google Material Icons) 图标英文 对照一览表
  • AI问答:成为合格产品经理所需能力的综合总结
  • dify工作流1:快速上手ai应用
  • 计算机毕业设计Java停车场管理系统 基于Java的智能停车场管理系统开发 Java语言实现的停车场综合管理平台
  • 网络通信模型对比:OSI与TCP/IP参考模型解析
  • 《Java Web程序设计》实验报告三 使用DIV+CSS制作网站首页
  • ServiceNow Portal前端页面实战讲解
  • [案例八] NX二次开发长圆孔的实现(支持实体)
  • C++中Lambda表达式 [ ] 的写法
  • Redis面试精讲 Day 1:Redis核心特性与应用场景
  • 浅谈 Python 中的 yield——生成器对象与函数调用的区别
  • 2025必问46道软件测试面试题(答案+文档)
  • Armstrong 公理系统深度解析
  • 网络安全初级第一次作业
  • super task 事件驱动框架
  • Openpyxl:Python操作Excel的利器
  • 浅谈npm,cnpm,pnpm,npx,nvm,yarn之间的区别
  • Python 数据建模与分析项目实战预备 Day 3 - 特征工程基础与数据预处理(针对简历结构化数据)
  • 使用iso制作ubuntu22.04docker镜像
  • 处理日期与时间
  • 【嵌入式电机控制#13】PID参数整定的全面步骤
  • ClickHouse 25.6 版本发布说明
  • 【华为机试】HJ68 成绩排序
  • 从0设计一个短链接服务:如何实现尽可能短、可变长的短网址系统?
  • 过拟合 跷跷板 幻觉 混合精度