注:zcbus-8.1-16-20230913.tar.gz版本,将生成的bsd文件名称分割符由下划线改成点
修改前:
修改后:
注:增加对网闸类型netgate的发布和订阅的支持(zcbus-7.8-14-20220721-beta.tar.gz版本支持)
- 订阅到网闸目录:
bus_client_db_parameter设置db_type为netgate,file_path设置网闸的落地目录 - 从网闸目录发布到kafka
netgate发布只需要启动real进程,bus_push_db_parameter设置db_type为netgate,file_path设置网闸文件的来源目录,file_reserve_count设置文件处理后的保留个数(每个表保留的文件个数,默认为0)
模板添加
图标:
INSERT INTO `bus_parameter_module_image` (`moduletype`, `pngpath`) VALUES ('NETGATE', 'ZCBUS.png');
发布添加库模板参数:
INSERT INTO `bus_parameter_module`(`id`, `module`, `moduletype`, `role`, `orderid`, `variable_name`, `display_name`, `value`, `ifcommon`, `input_type`, `hide`, `ifedit`, `ifciphertext`, `description`) VALUES ('bus_push_db_parameter', 'NETGATE', 0, 1, 'db_type', '数据库类型', 'netgate', 1, 0, 0, 0, 0, '源数据库类型');
INSERT INTO `bus_parameter_module`(`id`, `module`, `moduletype`, `role`, `orderid`, `variable_name`, `display_name`, `value`, `ifcommon`, `input_type`, `hide`, `ifedit`, `ifciphertext`, `description``) VALUES ('bus_push_db_parameter', 'NETGATE', 0, 2, 'file_path', '文件缓存目录', '/tmp/', 1, 0, 0, 1, 0, '文件缓存目录');
INSERT INTO `bus_parameter_module`(`id`, `module`, `moduletype`, `role`, `orderid`, `variable_name`, `display_name`, `value`, `ifcommon`, `input_type`, `hide`, `ifedit`, `ifciphertext`, `description`) VALUES ('bus_push_db_parameter', 'NETGATE', 0, 3, 'file_reserve_count', '文件保留个数', '0', 1, 0, 0, 1, 0, '文件保留个数');
订阅添加库模板参数:
INSERT INTO `bus_parameter_module`( `module`, `moduletype`, `role`, `orderid`, `variable_name`, `display_name`, `value`, `ifcommon`, `input_type`, `hide`, `ifedit`, `ifciphertext`, `description`) VALUES ('bus_client_db_parameter', 'NETGATE', 1, 1, 'db_type', '数据库类型', 'netgate', 0, 0, 0, 0, 0, '数据库类型');
INSERT INTO `bus_parameter_module`( `module`, `moduletype`, `role`, `orderid`, `variable_name`, `display_name`, `value`, `ifcommon`, `input_type`, `hide`, `ifedit`, `ifciphertext`, `description`) VALUES ('bus_client_db_parameter', 'NETGATE', 1, 2, 'file_path', '文件缓存目录', '/tmp/', 0, 0, 0, 1, 0, '文件缓存目录');
订阅到网闸目录
数据添加,选择NETGATE类型
设置文件缓存目录
后续正常开启订阅即可
文件会存放到缓存目录中
订阅后台部分日志
从网闸目录发布到kafka
数据添加,选择NETGATE类型
设置读取的文件缓存目录和文件保留个数
添加同步表
注:库名和表名需要与订阅设置的目标库表信息一致:
添加同步表完成后,会自动开启增量发布
发布后台部分日志
kafka消费验证
注:全量数据生成全量topic,增量数据生成增量topic;全量订阅一次,一个全量版本。
全量
../bin/kafka_tool -broker 172.17.46.244:9092 -topic 10560.test.bbb.s.3 -offset 0
增量
../bin/kafka_tool -broker 172.17.46.244:9092 -topic 10560.789508.r -offset 0 -count 1
文档更新时间: 2023-09-12 23:09 作者:周风磊