摘要: 同一个ETL任务流下的多个任务组件,在不设置连线依赖及属性依赖时,各组件会并发执行。当线程池资源不足时则按优先级先后提交执行,相同优先级的任务随机提交执行。[阅读全文]
摘要: 在任务流设计器管理页面,两两组件之间支持配置依赖执行,且执行条件支持三种方式a.当结果为真的时候继续下一步b.当结果为假的时候继续下一步c.无条件执行。组件间设置连线后,选择连线然后右键,可查看条件执行[阅读全文]
摘要: 控制策略作用任务流组件,设置组件控制属性使其在更加复杂的业务场景下也能正常按流程执行。1.互斥资源多个任务流组件之间支持通过配置互斥资源来进行互斥执行,配置相同互斥资源的组件同一时间仅支持运行一个。互斥[阅读全文]
摘要: 日志:以表格形式输出ETL任务流运行日志,展示字段包括有任务标题、所属任务流、执行开始时间、执行结束时间、执行耗时、重做次数、重试次数、状态、操作(查看详情、断点、取消断点、重做、强制成功)。日志列表以[阅读全文]
摘要: 编辑区是设计ETL任务流的区域。需要将左侧组件列表里的组件拖动到此区域,按照任务执行先后顺序将各组件或串行或并行连接起来,并设置任务组件属性来完成整体流程设计。编辑区中组件可拖动改变位置,双击打开到组件[阅读全文]
摘要: 组件区包含组件、导航面板、资源面板三个页签。组件:这里显示了制作ETL任务流所有可用的任务组件,包括ETL任务组件、ETL任务流组件、分支任务组件、存储过程任务组件等。可拖动任务组件到编辑区进行ETL任[阅读全文]
摘要: 菜单栏包含设计器所有的管理功能。(1)更多【更多】下有文件、编辑、查看、组件导入等菜单项。文件保存:保存ETL任务流,同菜单栏中的功能。另存为:另存为ETL任务流。检查:同菜单栏中。清除检查标记:检查标[阅读全文]
摘要: 调度平台是用于管理和执行ETL任务的模块,可对ETL任务进行资源分配、任务分配以及时间分配,提升ETL任务执行的效率,同时可监控ETL任务执行过程,便于分析和调整计划。模块包含功能有任务流定义、任务流调[阅读全文]
摘要: 1.组件介绍本章节主要介绍了如何使用边缘采集输入输出组件实时采集服务器上的日志数据。前提条件1、需要提前在采集服务器上安装边缘节点程序。2、在使用边缘采集输入输出组件前,需要配置边缘节点的IP地址和端口[阅读全文]
摘要: 1.前置步骤1.需要提前对原数据库的环境进行操作配置。目前支持的四种数据库。分别为ORACLR,MYSQL,SQLSERVER,POSTGRESQL. 详情参考数据库表配置。2.在进行CDC同步的过程中[阅读全文]
摘要: 1.前置步骤需提前部署kafka服务器,并且在产品服务器的kafka数据源中新建同一套生产开发kafka数据源连接池。如图,两数据源除适用环境不一致,其余的配置都是一样的。如果没有配置配套的kafka生[阅读全文]
摘要: 题表输出组件和表输出组件一样,也是作为输出端,目标组件。界面设置基本一样,不同的是主题表输出是输出到主题表的。主题表输出的更新方式可参考表输出。注意:主题表输出组件支持将字段注释一起输出到目标表中。具体[阅读全文]
摘要: 1.表输入组件表输入组件用于从数据库连接池中选择源表进行数据的抽取,作为后续组件的数据来源。时间戳增量(改名为主键+时间戳增量)它是一种基于快照比较的变化数据捕获方式,在源表上增加一个时间戳字段,业务系[阅读全文]
摘要: 批量交换到表组件,选择一个或者多个连接池下的表,将其批量设置表名后交换到另外一个数据库中。 【操作步骤】基本设置:1.源表的设置可以选择不同数据库的多张数据库表,支持表名模糊搜索与[阅读全文]
摘要: 1.组件概述可以读取redis数据上的数据,作为数据源,进行数据抽取。属性设置:输入对应的redis数据库的地址,以及密码(没有密码可不输入),输入完成后可进行连通性测试。连通成功后,选择对应的key值[阅读全文]
摘要: 1.mongodb 输入组件Mongodb输入组件可直接从组件中配置mongodb数据源,选择集合进行数据的抽取,作为后续组件的数据来源。该组件输入设置tab页主要配置分别是mongodb数据[阅读全文]
摘要: 1.组件介绍主要作用:文件传输代理组件可以实现将两个不同服务器之间的文件进行相互传输。主要功能介绍: 1.可以选择传输文件块大小; 2.可以选择加密或[阅读全文]
摘要: 1.组件介绍校验组件主要通过对前置组件的结果集与所校验组件设置的条件进行比较,返回结果值。目前可设置的校验条件有行数等于指定值、行数等于指定输入组件行、所有数据行满足指定表达式、第一行数据满足指定表达式[阅读全文]