Skip to content

数据开发

开发总览

  • 数据开发:包括作业信息、数据源、编辑区、操作栏、侧边栏、底部工具栏六大大部分。

作业信息

  • 作业信息:包括作业目录的维护、创建、删除等操作

新增作业/目录

  • 鼠标悬浮在作业目录上,点击“+”按钮,弹出新增作业/目录对话框

  • 类型:包含目录、Sql作业、Jar作业
  • 名称:作业名称或目录名称
  • 描述:作业描述或目录描述

编辑/删除作业、目录

  • 鼠标悬浮在作业或目录上,点击“编辑”或“删除”按钮,弹出编辑/删除作业/目录对话框

数据源信息

  • 数据源信息:选择数据源,用于作业相关的创建和查询,数据源维护参考数据源管理

  • 选择具体表,可查看相关信息,包括Flink DDL、Sql DDL、即席查询数据信息

编辑区

  • 编辑区:根据作业类型不同,分为FLink SQL编辑区、Jar编辑区
  • Flink SQL编辑区:编辑Flink SQL作业,支持语法高亮、环境变量替换、语法格式化等

Jar编辑区

  • Jar编辑区:上传Jar作业,支持Flink Jar相关的配置信息

操作栏

  • 操作栏:包含DAG、SQL语法检查、执行计划预览、运行、发布、撤销发布、保存等操作

DAG

  • DAG:生成作业的DAG图,点击DAG图,可查看作业的详细信息

检查

  • 检查:检查作业的语法,支持SQL语法检查、逻辑检查,错误提示

  • Show Plan :鼠标悬浮查看作业的逻辑执行计划

  • 错误检查

  • Show error :鼠标悬浮查看作业的错误信息

执行计划

  • 执行计划:生成作业的逻辑执行计划,执行后可在控制台查看

运行

  • 运行:运行作业,运行后可在控制台查看最近一次运行的作业信息,详情信息可在运维中心-任务详情中查看

发布

  • 发布:发布作业,支持提交作业到Flink集群,配置cron表达式定时执行,支持手动触发

撤销发布

  • 撤销发布:撤销发布作业,将不在进行cron表达式执行,支持手动触发

保存

  • 保存:保存作业,保存前会对作业进行填写、环境配置等相关内容校验,保存不会执行任务,执行任务需要发布或者手动执行

侧边栏

环境配置

  • 环境配置:配置作业执行的相关信息

  • 执行模式:支持Standalone、Yarn Session、Yarn Application、Kubernetes Session、Kubernetes Application、Kubernetes Operator
  • Flink版本:支持Flink版本选择
  • FlinkSql环境: FlinkSQL执行环境
  • 任务并行度:设置Flink任务的并行度
  • Insert语句集:是否启用Insert语句集
  • 全局变量:全局变量,以${}进行调用替换
  • 批模式:开启后启用Batch Mode
  • Savepoint策略:策略包括最近一次、最早一次、指定一次
  • Savepoint路径:当前策略为指定一次时,需要填写Savepoint路径
  • 报警类型:选择报警类型,单个和组
  • 报警信息:根据报警类型选择,单个报警信息填写,组报警信息填写
  • 自定义任务参数:配置自定义任务参数,执行任务时会传递给Flink任务

历史记录

  • 历史记录:查看作业历史记录,支持历史作业修改版本对比,与当前作业对比、历史作业还原等操作

  • 修改版本对比

  • 当前版本对比

  • 还原版本

底部工具栏

  • Flink DDL:选择数据源具体表后可自动生成Flink DDL,写入sql则自动填入到编辑区

Sql DDL

  • Sql DDL:选择数据源具体表后可获取Sql DDL

数据

  • 数据:选择数据源具体表后可该表数据实时查询,支持条件查询、分页等功能

控制台

  • 控制台:显示最新相关的日志,比如执行计划、运行日志等

Copyright © 2024 Shanghai Qishi network Technology Co., LTD All Rights Reserved. Powered by BigPrime.