发布

1、介绍

  • 连接数据源分析数据到ZCBUS数据平台,发布分为全量发布和增量发布:
    全量发布:
      即将数据源中原有数据初始化到数据融合平台,为后期全量数据对外提供数据基础服务
    增量发布:
    增量发布包含实时增量发布,定时增量发布:
    实时发布:
      通过读取日志方式,读取数据库中变化数据,将关注表相关变化输送到ZCBUS平台中,包含数据库中的DDL/DML等操作【表级别】
    定时发布:
      即通过SQL/API等多种方式,定时获取数据源中数据,详情可参考**定时**详细描述部分

2、操作管理

(1)新增

 新增一个发布节点,用以连接源库并分析数据

(2)组合发布

 当多个不同的源库中存在同一个表名的时候,可使用组合发布功能
组合发布

    可通过表名,库名,节点名,状态等快速筛选出需要发布的数据表进行发布即可

sql导入

    可通过使用SQL查询的方式,将需要发布的数据表加入到发布节点当中,并进行发布

(3)模板导入

 当需要添加的源库数量过多时,单个的新增效率低下,可使用模板导入批量新增发布节点

3、节点操作

(1)配置

 配置发布源信息及选择需要发布的数据表及节点的相关操作

  • 数据库:配置源库信息并测试连接
  • 选择发布数据表
    • 选表: 选择对应的库名或者schema名后,选择需要发布的数据表即可
    • 批量导入:通过配置模板或者手动输入schemaqk,表名来迅速完成发布表的选择
    • SQL导入:通过SQL语句的方式从源库查询出结果,并导入到发布节点
  • 发布:开启数据发布
    • 发布:开启数据发布,将表数据发布到软件平台
    • 无效:**开启后将不再捕获表数据变化
    • 恢复增量发布:开启后将实时捕获表数据变化
    • 检查:检查表中是否有不支持的列类型,是否存在主键或者唯一约束等
    • 复制表:将表名和schema名复制到另外一个发布节点内
    • 编辑:编辑表名和schema名,一般不操作
    • 条件:设置全量发布的条件,例当设置条件为id<10时,全量发布只发布id小于10的记录
    • 修复:设置数据修复的条件,例当设置修复条件为id=10时,订阅端会修复id为10的记录
    • 删除:从发布节点当中剔除该表
  • 监控:监测全量发布,增量发布的进度,发布异常信息
  • 复制新节点:可通过复制的方法来生成一个新的节点并保留数据库配置信息,可选择是否保留发布表
  • 重置:重置发布表的缓存或者重置增量分析的位置
    • 缓存:清理缓存中的内容,重新从源端获取发布数据字典表信息
    • 偏移量:重新设置分析增量数据偏移量(offset)位置;

(2)监控

监测全量发布,增量发布的进度,发布异常信息,与发布节点内的监控功能相同

文档更新时间: 2024-12-22 05:10   作者:操李红