单标增量加载的优化过程

–insert_parallel_load

  • 目标端为数据库时,可以控制对于同一张表的insert操作是否可以并发装载,默认为1,可以并发装载,设置为0时,取消并发装载

–real_sql_mode

  • 增量装载时使用sql模式,0为load方式装载,1为sql绑定方式装载,2为直接使用sql方式装载,默认为1,sql绑定方式加载

–merge_kafka_message

  • 多表合一参数,设置为1时,该通道使用多表合一模式,该功能主要用于对分布式数据库的分表数据进行合并装载,去掉多余的ddl操作,通道内配置的多个表需要源端表结构完全一致,多个表发起订阅时,需要所有表一起发起。 此参数修改,需要重启服务才能生效
  • 注意,增量加载过程中,提高入库速度,启用并行加载,需要
    real_sql_mode=1
    insert_parallel_load=1
    merge_kafka_message=0
    可以实现单表并行加载
文档更新时间: 2023-01-23 16:25   作者:阿力