ZCBUS订阅目录文件网闸目录文件发布ZCBUS

注:zcbus-8.1-16-20230913.tar.gz版本,将生成的bsd文件名称分割符由下划线改成点

修改前:


修改后:

注:增加对网闸类型netgate的发布和订阅的支持(zcbus-7.8-14-20220721-beta.tar.gz版本支持)

  1. 订阅到网闸目录:
    bus_client_db_parameter设置db_type为netgate,file_path设置网闸的落地目录
  2. 从网闸目录发布到kafka
    netgate发布只需要启动real进程,bus_push_db_parameter设置db_type为netgate,file_path设置网闸文件的来源目录,file_reserve_count设置文件处理后的保留个数(每个表保留的文件个数,默认为0)

模板添加

图标:

INSERT INTO `bus_parameter_module_image` (`moduletype`, `pngpath`) VALUES ('NETGATE', 'ZCBUS.png');

发布添加库模板参数:

INSERT INTO `bus_parameter_module`(`id`, `module`, `moduletype`, `role`, `orderid`, `variable_name`, `display_name`, `value`, `ifcommon`, `input_type`, `hide`, `ifedit`, `ifciphertext`, `description`) VALUES ('bus_push_db_parameter', 'NETGATE', 0, 1, 'db_type', '数据库类型', 'netgate', 1, 0, 0, 0, 0, '源数据库类型');
INSERT INTO `bus_parameter_module`(`id`, `module`, `moduletype`, `role`, `orderid`, `variable_name`, `display_name`, `value`, `ifcommon`, `input_type`, `hide`, `ifedit`, `ifciphertext`, `description``) VALUES ('bus_push_db_parameter', 'NETGATE', 0, 2, 'file_path', '文件缓存目录', '/tmp/', 1, 0, 0, 1, 0, '文件缓存目录');
INSERT INTO `bus_parameter_module`(`id`, `module`, `moduletype`, `role`, `orderid`, `variable_name`, `display_name`, `value`, `ifcommon`, `input_type`, `hide`, `ifedit`, `ifciphertext`, `description`) VALUES ('bus_push_db_parameter', 'NETGATE', 0, 3, 'file_reserve_count', '文件保留个数', '0', 1, 0, 0, 1, 0, '文件保留个数');

订阅添加库模板参数:

INSERT INTO `bus_parameter_module`( `module`, `moduletype`, `role`, `orderid`, `variable_name`, `display_name`, `value`, `ifcommon`, `input_type`, `hide`, `ifedit`, `ifciphertext`, `description`) VALUES ('bus_client_db_parameter', 'NETGATE', 1, 1, 'db_type', '数据库类型', 'netgate', 0, 0, 0, 0, 0, '数据库类型');
INSERT INTO `bus_parameter_module`( `module`, `moduletype`, `role`, `orderid`, `variable_name`, `display_name`, `value`, `ifcommon`, `input_type`, `hide`, `ifedit`, `ifciphertext`, `description`) VALUES ('bus_client_db_parameter', 'NETGATE', 1, 2, 'file_path', '文件缓存目录', '/tmp/', 0, 0, 0, 1, 0, '文件缓存目录');

订阅到网闸目录

数据添加,选择NETGATE类型

设置文件缓存目录

后续正常开启订阅即可

文件会存放到缓存目录中

订阅后台部分日志

从网闸目录发布到kafka

数据添加,选择NETGATE类型

设置读取的文件缓存目录和文件保留个数

添加同步表


注:库名和表名需要与订阅设置的目标库表信息一致:

添加同步表完成后,会自动开启增量发布

发布后台部分日志

kafka消费验证

注:全量数据生成全量topic,增量数据生成增量topic;全量订阅一次,一个全量版本。

全量

../bin/kafka_tool -broker 172.17.46.244:9092 -topic 10560.test.bbb.s.3 -offset 0

增量

../bin/kafka_tool -broker 172.17.46.244:9092 -topic 10560.789508.r -offset 0 -count 1

文档更新时间: 2023-09-12 23:09   作者:周风磊