摘要: 针对ETL任务流设计器中任务组件之间的依赖进行血缘分析,可直观的查看当前组件的完整血缘关系。当分析节点中存在任务流组件时,可通过查看完整模型查看该任务流下嵌套了哪些任务,点击按钮可展开任务流下嵌套的任务[阅读全文]
摘要: 当调度平台服务存在集群环境时,ETL任务流下各任务的执行将随机分布在各个集群节点下,充分利用集群环境下各节点服务器的资源,提升任务执行的稳定性及执行效率。ETL任务流设计器下并发运行三个ETL任务,可在[阅读全文]
摘要: 同一个ETL任务流下的多个任务组件,在不设置连线依赖及属性依赖时,各组件会并发执行。当线程池资源不足时则按优先级先后提交执行,相同优先级的任务随机提交执行。[阅读全文]
摘要: 在任务流设计器管理页面,两两组件之间支持配置依赖执行,且执行条件支持三种方式a.当结果为真的时候继续下一步b.当结果为假的时候继续下一步c.无条件执行。组件间设置连线后,选择连线然后右键,可查看条件执行[阅读全文]
摘要: 控制策略作用任务流组件,设置组件控制属性使其在更加复杂的业务场景下也能正常按流程执行。1.互斥资源多个任务流组件之间支持通过配置互斥资源来进行互斥执行,配置相同互斥资源的组件同一时间仅支持运行一个。互斥[阅读全文]
摘要: 日志:以表格形式输出ETL任务流运行日志,展示字段包括有任务标题、所属任务流、执行开始时间、执行结束时间、执行耗时、重做次数、重试次数、状态、操作(查看详情、断点、取消断点、重做、强制成功)。日志列表以[阅读全文]
摘要: 编辑区是设计ETL任务流的区域。需要将左侧组件列表里的组件拖动到此区域,按照任务执行先后顺序将各组件或串行或并行连接起来,并设置任务组件属性来完成整体流程设计。编辑区中组件可拖动改变位置,双击打开到组件[阅读全文]
摘要: 组件区包含组件、导航面板、资源面板三个页签。组件:这里显示了制作ETL任务流所有可用的任务组件,包括ETL任务组件、ETL任务流组件、分支任务组件、存储过程任务组件等。可拖动任务组件到编辑区进行ETL任[阅读全文]
摘要: 菜单栏包含设计器所有的管理功能。(1)更多【更多】下有文件、编辑、查看、组件导入等菜单项。文件保存:保存ETL任务流,同菜单栏中的功能。另存为:另存为ETL任务流。检查:同菜单栏中。清除检查标记:检查[阅读全文]
摘要: 调度平台是用于管理和执行ETL任务的模块,可对ETL任务进行资源分配、任务分配以及时间分配,提升ETL任务执行的效率,同时可监控ETL任务执行过程,便于分析和调整计划。模块包含功能有任务流定义、任务流调[阅读全文]
摘要: 批处理与交换任务部分组件支持spark大数据处理引擎,使用该引擎能够有效得提升海量数据的数据传输与数据处理的效率。用户新建批处理任务或者交换任务后,执行任务时选择Spark引擎作为计算引擎,程序将自动的[阅读全文]
摘要: 1.循环节点组件ETL任务流升级改造为调度平台后,去掉了任务循环功能,在ETL组件得流程组件中新增循环节点组件,实现数据处理的循环和遍历功能。循环节点组件支持对ETL任务中支持现有组件得嵌套[阅读全文]
摘要: 交换任务-文件传输组件新增一个文件生成组件。支持将表字段类型为大字段和二进制类型的数据输出为文件,每一行生成一个文件。输出支持文本、excel文件、图片、视频等。后缀支持:txt、doc、docx、js[阅读全文]
摘要: 批量交换到表组件,选择一个或者多个连接池下的表,将其批量设置表名后交换到另外一个数据库中。 【操作步骤】基本设置: 1.源表的设置可以选择不同数据库的多张数据库表,支持表名模糊搜索与Ctrl[阅读全文]
摘要: 1.表输入组件表输入组件用于从数据库连接池中选择源表进行数据的抽取,作为后续组件的数据来源。时间戳增量(改名为主键+时间戳增量)它是一种基于快照比较的变化数据捕获方式,在源表上增加一个时间戳字段,业务系[阅读全文]
摘要: 1.Greenplum卸载组件数据交换组件支持Greenplum数据库表导出为文本文件。通过该方式可有效的提高Greenplum数据库的数据交换的效率。【操作步骤】前置步骤:1.Liunx服务器或者wi[阅读全文]
摘要: Xml解析组件可以从前置组件中读取到xml格式的数据,然后将其解析成结构化数据,并向后置组件输出。 客户的一个接口返回的书本信息,书名,类型,出版社等等,这些信息是以xml的形式返回的,可以通过时xml[阅读全文]
摘要: 1.应用背景实时json解析组件可以从前置实时组件中读取到json格式的数据,然后将其解析成结构化数据,并向后置组件输出。 客户的一个接口返回的用户信息,姓名性别身份证家庭住址等等,这些信息是以JSON[阅读全文]