摘要: 1.循环节点组件ETL任务流升级改造为调度平台后，去掉了任务循环功能，在ETL组件得流程组件中新增循环节点组件，实现数据处理的循环和遍历功能。循环节点组件支持对ETL任务中支持现有组件得嵌套[阅读全文:]
摘要: 批处理与交换任务部分组件支持spark大数据处理引擎，使用该引擎能够有效得提升海量数据的数据传输与数据处理的效率。用户新建批处理任务或者交换任务后，执行任务时选择Spark引擎作为计算引擎，程序将自动的[阅读全文:]
摘要: 1.组件介绍本章节主要介绍了如何使用边缘采集输入输出组件实时采集服务器上的日志数据。前提条件1、需要提前在采集服务器上安装边缘节点程序。2、在使用边缘采集输入输出组件前，需要配置边缘节点的IP地址和端口[阅读全文:]
摘要: 1.前置步骤1.需要提前对原数据库的环境进行操作配置。目前支持的四种数据库。分别为ORACLR,MYSQL,SQLSERVER,POSTGRESQL. 详情参考数据库表配置。2.在进行CDC同步的过程中[阅读全文:]
摘要: 1.前置步骤需提前部署kafka服务器，并且在产品服务器的kafka数据源中新建同一套生产开发kafka数据源连接池。如图，两数据源除适用环境不一致，其余的配置都是一样的。如果没有配置配套的kafka生[阅读全文:]
摘要: 1.应用背景实时json解析组件可以从前置实时组件中读取到json格式的数据，然后将其解析成结构化数据，并向后置组件输出。 客户的一个接口返回的用户信息，姓名性别身份证家庭住址等等，这些信息是以JSON[阅读全文:]
摘要: 题表输出组件和表输出组件一样，也是作为输出端，目标组件。界面设置基本一样，不同的是主题表输出是输出到主题表的。主题表输出的更新方式可参考表输出。注意：主题表输出组件支持将字段注释一起输出到目标表中。具体[阅读全文:]
摘要: 1.表输入组件表输入组件用于从数据库连接池中选择源表进行数据的抽取，作为后续组件的数据来源。时间戳增量（改名为主键+时间戳增量）它是一种基于快照比较的变化数据捕获方式，在源表上增加一个时间戳字段，业务系[阅读全文:]