发布
1、介绍
- 连接数据源分析数据到ZCBUS数据平台,发布分为全量发布和增量发布:
全量发布:
增量发布:即将数据源中原有数据初始化到数据融合平台,为后期全量数据对外提供数据基础服务
增量发布包含实时增量发布,定时增量发布:
实时发布:
定时发布:通过读取日志方式,读取数据库中变化数据,将关注表相关变化输送到ZCBUS平台中,包含数据库中的DDL/DML等操作【表级别】
即通过SQL/API等多种方式,定时获取数据源中数据,详情可参考**定时**详细描述部分
2、操作管理
(1)新增
新增一个发布节点,用以连接源库并分析数据
(2)组合发布
当多个不同的源库中存在同一个表名的时候,可使用组合发布功能
组合发布
可通过表名,库名,节点名,状态等快速筛选出需要发布的数据表进行发布即可
sql导入
可通过使用SQL查询的方式,将需要发布的数据表加入到发布节点当中,并进行发布
(3)模板导入
当需要添加的源库数量过多时,单个的新增效率低下,可使用模板导入批量新增发布节点
3、节点操作
(1)配置
配置发布源信息及选择需要发布的数据表及节点的相关操作
- 数据库:配置源库信息并测试连接
- 选择发布数据表
- 选表: 选择对应的库名或者schema名后,选择需要发布的数据表即可
- 批量导入:通过配置模板或者手动输入schemaqk,表名来迅速完成发布表的选择
- SQL导入:通过SQL语句的方式从源库查询出结果,并导入到发布节点
- 发布:开启数据发布
- 发布:开启数据发布,将表数据发布到软件平台
- 无效:**开启后将不再捕获表数据变化
- 恢复增量发布:开启后将实时捕获表数据变化
- 检查:检查表中是否有不支持的列类型,是否存在主键或者唯一约束等
- 复制表:将表名和schema名复制到另外一个发布节点内
- 编辑:编辑表名和schema名,一般不操作
- 条件:设置全量发布的条件,例当设置条件为id<10时,全量发布只发布id小于10的记录
- 修复:设置数据修复的条件,例当设置修复条件为id=10时,订阅端会修复id为10的记录
- 删除:从发布节点当中剔除该表
- 监控:监测全量发布,增量发布的进度,发布异常信息
- 复制新节点:可通过复制的方法来生成一个新的节点并保留数据库配置信息,可选择是否保留发布表
- 重置:重置发布表的缓存或者重置增量分析的位置
- 缓存:清理缓存中的内容,重新从源端获取发布数据字典表信息
- 偏移量:重新设置分析增量数据偏移量(offset)位置;
(2)监控
监测全量发布,增量发布的进度,发布异常信息,与发布节点内的监控功能相同
文档更新时间: 2024-12-22 05:10 作者:操李红