当前位置: 首页 > news >正文

flink执行图

Flink执行图是描述作业从逻辑拓扑到物理部署的转换过程的核心数据结构,分为四层结构:

执行图分层结构

  1. StreamGraph(逻辑流图)
    根据用户通过DataStream API编写的代码生成的最初DAG图,表示程序的拓扑结构,通常在客户端完成。

  2. JobGraph(作业图)
    StreamGraph经过优化后生成,提交给JobManager的数据结构。主要优化包括将符合条件的节点合并为算子链(Operator Chains),减少数据交换开销。

  3. ExecutionGraph(执行图)
    JobManager将JobGraph并行化后生成的核心调度结构,包含所有任务的并行实例、中间数据集及依赖关系。此阶段会为每个Task分配并行度,生成对应的ExecutionVertex。

  4. 物理执行图
    由TaskManager根据ExecutionGraph部署Task后形成的实际运行结构,并非具体数据结构,而是物理任务实例的拓扑关系。

关键优化机制

  • 算子链(Operator Chains)
    相同并行度且为一对一(one-to-one)数据传输的算子会被合并为一个Task,减少序列化/网络开销。
  • 数据传输形式
    分为不涉及Shuffle的One-to-one模式(如map-filter链)和需要数据重分布的Redistributing模式(如keyBy)。

运行时组件协作

JobManager负责将JobGraph转换为ExecutionGraph并调度任务,TaskManager通过Slot资源执行具体Task,最终形成物理执行图

http://www.dtcms.com/a/427252.html

相关文章:

  • 在线酒店预定网站制作长春站建筑
  • wordpress购物网站教程普陀区建设局网站
  • TCP抓包实验
  • spring boot项目使用tomcat发布,也可以使用Undertow(理论)
  • 【Linux-2】字符设备编写不同模板
  • 基于 Web3 + RWA 的品牌门店数字化范式
  • 惠州 网站建设公司简单制作网页
  • Gartner 2025 中国网络安全成熟度曲线深度解读:AI 安全如何重构防御逻辑
  • 为男人做购物网站超详细wordpress常用函数
  • 【C++ 语法】模板进阶
  • 【K8s】K8s的声明式API核心
  • 关于网站开发人员保密协议专业服务网站开发
  • supabase 实现聊天板(Chat Board)
  • PersistentVolume + NFS:网络共享存储
  • leetcode 1863 找出所有子集的异或总和再求和
  • 【C++】STL -- vector 的使用及模拟实现
  • 网站如何做图片特效erp软件实施
  • 【28】C# WinForm入门到精通 ——多文档窗体MDI【属性、方法、实例、源码】【多窗口重叠、水平平铺、垂直平铺、窗体传值】
  • 贡井区建设局网站淘宝客做自己的网站
  • 蓝牙发展史
  • 对LED点灯实验的C与汇编的深入分析,提及到volatile
  • 网站建设外包广州网站建设说说外链的建设
  • LevOJ P2080 炼金铺 II [矩阵解法]
  • wordpress网站映射wordpress免费网站国外
  • 哈尔滨企业建站系统西宁建设局官方网站
  • py_innodb_page_info.py表空间分析
  • 有什么做宝宝辅食的网站吗莱阳网站开发
  • tasklet
  • 页面 HTTPS 化实战,从证书部署到真机验证的全流程(证书链、重定向、混合内容、抓包排查)
  • 北京哪家公司做网站电脑上买wordpress