摘要: 1.概述变更检测用于检测ETL任务的输入输出源的表结构是否发生变更,如果发生了变更,则或短信或邮箱或站内信通知。目前支持检测的组件有:表输入输出组件、主题表输入输出组件。规则是以组件中的字段列表为准,检[阅读全文]
摘要: 1.概述任务流调度用于定时执行ETL任务流。创建任务流调度的两个入口如下图。2.创建调度任务Step1:新建任务流调度点击新建,弹出新建任务流调度对话框。Step2:选择ETL任务流在新建任务流调度页面[阅读全文]
摘要: 1. 概述ETL任务流用于完成ETL任务的前驱后继关系和调度顺序的定义。本文通过一个简单示例讲解如何创建ETL任务流。2. 制作步骤2.1新建ETL任务流这里我们已经创建好了命名为【[阅读全文]
摘要: 1.概述ETL任务流设计器是以图形化的方式完成ETL任务的前驱后继关系和调度顺序的定义。ETL任务依赖关系分为强制依赖和非强制依赖,强制依赖是指作业之间有着业务上的依赖关系,前置作业的输出作为后置作业的[阅读全文]
摘要: 1. 概述当制作好的ETL任务需要定时执行时,我们需将ETL任务发布到运行区,因为只有运行区中ETL任务流才能创建调度任务定时执行。设计区中草稿状态的ETL任务不影响运行区中的ETL任务执行,[阅读全文]
摘要: 1. 概述实时任务中数据库表既可以作为输入源,也可以作为输出源。 用户设计实时任务,拖入输入组件和处理组件以及表输出组件,然后配置好输入组件信息,处理组件处理逻辑以及表输出组件连接池和目标表及[阅读全文]
摘要: 1. 概述ETL任务是对数据进行抽取、转换和加载等一系列操作。目的是将数据从源系统中迁移到目标系统,在迁移过程中对数据进行清洗、整合和格式化,以满足后续分析和使用的需求。本文档是ETL任务的入[阅读全文]
摘要: 1. 应用数据源目前只支持创建指向ABI的应用数据源,在数据资产下新建数据产品时会使用到应用数据源。点击【新建】按钮,在弹出的对话框中填写相关信息,如下图:填写无误后点击【测试连接】按钮,测试[阅读全文]
摘要: 1. HDFS数据源支持对接大数据平台,对接HDFS。HDFS数据源可用于和文件类的数据资产进行挂接,以及在ETL任务的大数据组件中使用,实现对HDFS的读写。点击【新建】按钮在弹出的对话框中[阅读全文]
摘要: 1. Kafka数据源支持对接Kafka数据源,在设计实时任务时,可以选择配置好的Kafka数据源,将消息写入Kafka,或者从Kafka读取消息。点击【新建】按钮,在弹出的对话框中填写相关信[阅读全文]
摘要: 1. 文件传输代理文件传输代理用于不同系统间文件的传输,通过两个MQ节点来实现文件传输。此数据源在ETL任务的文件传输代理组件中使用。1.1安装MQ节点ØWindows操作系统1)安装代理解压[阅读全文]
摘要: 1. FTP服务器当需要与服务器进行FTP连接时,可以使用FTP数据源。FTP数据源可用于和文件类的数据资产进行挂接,以及在ETL任务的FTP上传下载组件中使用。点击【新建】,在弹出的对话框填[阅读全文]
摘要: 1. 接口数据源接口数据源可以实现与第三方系统的接口数据进行传输,目前支持接入http协议接口和webService接口。接口数据源可以用来创建主题表,以及在ETL任务的HTTP接口组件中使用[阅读全文]
摘要: 1. 文件数据源文件数据源是将本地文件上传到服务器,可以用来新建主题表,以及在ETL任务的平面文件输入组件和Excel输入组件中使用。点击【新建】按钮,界面出现4种文件类型可供选择,包括EXC[阅读全文]
摘要: 1. 数据库连接池1.1新建连接池点击【新建连接池】按钮,界面会出现多种类型的数据库连接池可供选择,包括Mysql、Oracle、SQL Server、DB2等,如下图:我们以连接Oracle[阅读全文]
摘要: 1.概述本章节我们来一起学习一下发布审批工作流的制作。待制作的工作流程为:有权限的用户发布工作流后由管理员(用户zhangs)审批,审批通过,流程结束,元数据发布成功;审批不通过,退回给发起者,发起者修[阅读全文]
摘要: 点击平台右上角的消息按钮,选择站内信后即可进入站内信模块。收件箱可以查看当前用户收到的站内信,点击左上角的删除按钮可以进行删除。发件箱可以查看当前登录用户发送过的站内信,点击左上方的删除按钮可以进行删除[阅读全文]
摘要: 第三方存储主数据管理平台在数据维护过程时常涉及上传图片、文件类型的数据,如果全都存储在系统库中将会加大系统库的存储压力,占据打了的存储空间,因此需要使用第三方存储服务器来存储这些非结构化的数据。第三方存[阅读全文]