当前位置: 首页 > news >正文

AllData数据中台核心菜单十三:数据湖平台

🔥🔥 AllData大数据产品是可定义数据中台,以数据平台为底座,以数据中台为桥梁,以机器学习平台为中层框架,以大模型应用为上游产品,提供全链路数字化解决方案。

✨奥零数据科技官网:http://www.aolingdata.com
✨AllData开源项目:https://github.com/alldatacenter/alldata
✨AllData官方文档:https://alldata-document.readthedocs.io
✨AllData社区文档:https://docs.qq.com/doc/DVHlkSEtvVXVCdEFo
在这里插入图片描述
在这里插入图片描述

「 AllData数据中台 - 主页 」
在这里插入图片描述

「 数据湖平台 - 功能描述 」

1、AllData数据同步平台基于开源项目Paimon建设。

2、Paimon是一种数据湖格式,支持使用 Flink 和 Spark 构建实时 Lakehouse 架构,用于流式和批处理操作。创新地结合了 Lake 格式和 LSM 结构,将实时流式更新引入数据湖架构。

3、Paimon数据湖通过一套完善的入湖工具,实现了实时数据同步至数据湖的功能,支持MySQL等多元数据库系统的数据变化快速捕捉与存储。它融合了Flink的流处理能力和Spark等计算引擎的批处理能力,实现了数据湖上的批流一体处理,降低了数据处理的复杂性和成本。

4、Paimon数据湖注重生态集成,与Hive、Trino、Presto等大数据典型计算引擎深度整合,提供了统一的数据存储和访问接口。其底层采用先进的存储架构和技术,如LSM树等,确保了高效的数据写入和查询性能。

5、Paimon数据湖是一个功能强大、易于使用且成本效益高的存储解决方案,适用于各种大数据场景,为数据分析和实时计算提供了坚实的基础。

「 数据湖平台 - 模块功能汇总 」

在这里插入图片描述

「 数据湖平台 - 功能点展示 」

「 数据湖任务 」
在这里插入图片描述
「 数据湖查询 」查询
在这里插入图片描述
「 数据湖查询 」工作台
在这里插入图片描述
「 基础元数据 」创建Catalog
在这里插入图片描述
「 基础元数据 」创建Database
在这里插入图片描述
「 基础元数据 」数据表-Table信息
在这里插入图片描述
「 基础元数据 」数据表-Option信息
在这里插入图片描述
「 基础元数据 」数据表-Schema信息
在这里插入图片描述
「 基础元数据 」数据表-Snapshot信息
在这里插入图片描述
「 基础元数据 」数据表-Manifest信息
在这里插入图片描述
「 基础元数据 」数据表-数据文件
在这里插入图片描述
「 基础元数据 」创建Table
在这里插入图片描述
「 CDC集成 」
在这里插入图片描述
「 CDC集成 」创建同步作业
在这里插入图片描述
「 CDC集成 」创建同步作业-编辑(MySQL-Paimon)
在这里插入图片描述
「 CDC集成 」创建同步作业-编辑(Kafka-Paimon)
在这里插入图片描述
「 CDC集成 」创建同步作业-编辑(MongoDB-Paimon)
在这里插入图片描述
「 CDC集成 」创建同步作业-编辑(PostgreSQL-Paimon)
在这里插入图片描述
「 CDC集成 」创建同步作业-运行
在这里插入图片描述
「 数据湖集群 」
在这里插入图片描述
「 数据湖集群 」新增集群
在这里插入图片描述
「 数据湖集群 」更新集群
在这里插入图片描述
「 数据湖集群 」集群连通性检测
在这里插入图片描述

相关文章:

  • 【大模型】硅基流动对接DeepSeek使用详解
  • Jenkins+maven+gitlab+shell 实现项目自动化部署
  • 聚铭网络入围2025年度江苏省政府采购信息安全设备协议供货名单
  • 汽车通信未来新趋势:Eclipse uProtocol
  • 如何使用DeepSeek + PlantUML/Mermaid 生成专业图表
  • mysql查询判断函数,类似decode
  • SQL 注入攻击详解[基础篇]:Web 应用程序安全漏洞与防御策略
  • 【算法】快排
  • Go 自动升级依赖版本
  • 网络安全“挂图作战“及其场景
  • Go入门之数组与切片
  • 【基础架构篇八】《DeepSeek异构计算:CPU/GPU/TPU协同加速方案》
  • 基于Spring Boot的社区居民健康管理平台的设计与实现
  • 【Vue3】Vue 3 中列表排序的优化技巧
  • Qt的QTabWidget样式设置
  • Python----数据结构(双向链表:节点,是否为空,长度,遍历,添加,删除,查找,循环链表)
  • 伯克利 CS61A 课堂笔记 10 —— Trees
  • 阿里云ACK+GitLab企业级部署实战教程
  • 数据库配置文件
  • 【Linux网络-网络基础】TCP/IP五层(或四层)模型+网络传输的基本流程
  • 春秋航空:如果供应链持续改善、油价回落到合理水平,公司补充运力的需求将会增长
  • 西安机场回应航站楼“水帘洞”事件:屋面排水系统被冰雹堵塞
  • 纪念|古文字学泰斗裘锡圭:“还有很多事情要做”
  • 人民日报整版调查:中小学春秋假,如何放得好推得开?
  • 山寨“小米”智能马桶、花洒销售额过亿,被判赔3500万元
  • 公示!17个新职业、42个新工种亮相