通过logstash 从MYSQL增量同步到Elasticsearch 时区问题

注意: 第一次导入时,先同步数据

1.kibana先创建 mysql_woc_user 索引 PUT mysql_woc_user

2.pipline 配置 关闭跟踪记录结果,去掉 where 条件查询

通过logstash  从MYSQL增量同步到Elasticsearch 时区问题

kibana 时区设置:

pipline 配置:

input {
  jdbc {
    jdbc_driver_library => "/usr/share/logstash/vendor/jdbc/mysql-connector-java-5.1.49.jar"
    jdbc_driver_class => "com.mysql.jdbc.Driver"    # 8.0以上版本:一定要把serverTimezone=UTC天加上
    jdbc_connection_string => "jdbc:mysql://xxxxxxx.mysql.rds.aliyuncs.com:3306/woc?characterEncoding=utf8&useSSL=false&serverTimezone=Asia/Shanghai&rewriteBatchedStatements=true"
    jdbc_user => "root"
    jdbc_password => "root"
    schedule => "* * * * *"
    statement => "SELECT * FROM bl_user WHERE update_time >   :sql_last_value "
     # 是否开启记录上次追踪的结果,也就是上次更新的时间,这个会记录到 last_run_metadata_path 的文件
    use_column_value => true
    #是否记录上次执行结果, 如果为真,将会把上次执行到的 tracking_column 字段的值记录下来,保存到 last_run_metadata_path 指定的文件中
    record_last_run => true
    # 记录上一次追踪的结果值
    last_run_metadata_path => "/usr/share/logstash/sync/track_time"

    tracking_column_type => "timestamp"
    tracking_column => "update_time"
    # 是否清除 last_run_metadata_path 的记录,true则每次都从头开始查询所有的数据库记录
    clean_run => false
    # 数据库字段名称大写转小写
    lowercase_column_names => false
    
    jdbc_default_timezone => "Asia/Shanghai"
    
     # 开启分页
    jdbc_paging_enabled => "true"
    # 分页每页数量,可以自定义
    jdbc_page_size => "1000"
    

  }
}

output {
    elasticsearch {
        # ES的IP地址及端口
        hosts => ["http://es01:9200"]
        user => "elastic"
        password => "Hbwdl+NdmetqYg"
        # 索引名称 可自定义
        index => "mysql_woc_user"
        # 需要关联的数据库中有有一个id字段,对应类型中的id
        document_id => "%{uid}"
        document_type => "user"
    }
    stdout {
        # JSON格式输出
        codec => json_lines
    }
}

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小猪@笨笨

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值