当前位置: 首页 > news >正文

Flink + Hologres构建实时数仓

方案优势及核心能力

该方案有如下优势:

  • 高效更新与即时查询:Hologres支持每一层数据的高效更新、修正和写入即可查,解决了传统实时数仓中间层数据难以查询、更新和修正的问题。
  • 数据分层复用:Hologres的所有层级数据都可单独对外提供服务,实现高效复用,真正达成数仓分层复用的目标。
  • 架构简化与效率提升:基于Flink SQL构建实时ETL链路,ODS层、DWD层和DWS层的数据统一存储在Hologres,从而降低架构复杂度并提升数据处理效率。

该方案依赖于Hologres的3个核心能力,详情如下表所示。

Hologres核心能力详情
BinlogHologres提供Binlog能力,用于驱动Flink进行实时计算,以此作为流式计算的上游。
行列共存Hologres支持行列共存的存储格式。一张表同时存储行存数据和列存数据,并且两份数据强一致。该特性保证中间层表既能作为Flink的源表,也能作为Flink的维表进行主键点查与维表Join,还能供其他应用(OLAP、线上服务等)查询。
资源强隔离Hologres实例的负载较高时,可能影响中间层的点查性能。Hologres支持通过主从实例读写分离部署(共享存储)或计算组实例架构实现资源强隔离,从而保证Flink对Hologres Binlog的数据拉取不影响线上服务。

基于Flink+Hologres搭建实时数仓

http://www.dtcms.com/a/325876.html

相关文章:

  • 机器学习:基于OpenCV和Python的智能图像处理 实战
  • 【05】昊一源科技——昊一源科技 嵌入式笔试, 校招,题目记录及解析
  • 提示词注入攻防全解析——从攻击原理到防御浅谈
  • gophis钓鱼
  • 深入解析 resolv.conf 文件:DNS 配置的核心
  • 区间修改 - 差分
  • 在Linux中使用docker-compose快速搭建Prometheus监控系统
  • foreach 块并行加速
  • 澳洲增高营养品排行榜
  • 小波卷积YYDS!小波变换+CNN创新结合
  • 无人机航拍数据集|第11期 无人机人员行为目标检测YOLO数据集1868张yolov11/yolov8/yolov5可训练
  • 【bug】diff-gaussian-rasterization Windows下编译 bug 解决
  • STM32 HAL库驱动0.96寸OLED屏幕
  • 【学习】DCMM认证从“跟风“到“生存法则“的进化
  • EI检索-学术会议 | 人工智能、虚拟现实、可视化
  • react中父子数据流动和事件互相调用(和vue做比较)
  • 小杰python高级(three day)——matplotlib库
  • 关于微信小程序的笔记
  • 告别“焊武帝”时代!30-65W零外围A+C快充协议正式上线
  • Cherryusb UAC例程对接STM32内置ADC和PWM播放音乐和录音(下)=>UAC+STM32 ADC+PWM实现录音和播放
  • TradingAgents-CN: 基于多智能体的中文金融交易决策框架
  • Apache Ignite超时管理核心组件解析
  • XX生产线MES系统具体实施方案
  • 第2节 大模型分布式推理架构设计原则
  • react+echarts实现图表展示的两种方法
  • uni-app app端安卓和ios如何申请麦克风权限,唤起提醒弹框
  • 初识影刀:将多个相同格式EXCEL中内容汇总到一个EXCEL文件中去
  • HRM分层推理模型在医疗AI上的应用探析
  • LeetCode算法日记 - Day 8: 串联所有单词的子串、最小覆盖子串
  • 学习嵌入式-IMX6ULL学习——中断