logstash应用3:mysql--ElasticSearch

本文介绍使用logstash5.1.1将mysql数据表中的数据同步到ElasticSearch。需确保es可连接且健康,同步前事先创建好对应的index,还给出运行脚本。若报错java.lang.OutOfMemoryError: Java heap space,可参考下一篇文章。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

工具:
logstash5.1.1

应用:
将mysql数据表中的数据同步到ElasticSearch

1、确保es是可以连接上并且是健康的
2、在将数据同步到es之前,要事先创建好对应的index
3、运行脚本,脚本如下:

input {
  jdbc {
    jdbc_driver_library => "/home/logstash/logstash-5.6.9/lib/mysql-connector-java-5.1.47-bin.jar"
    jdbc_driver_class => "com.mysql.jdbc.Driver"
    jdbc_connection_string => "jdbc:mysql://10.10.77.106:3306/cqct?useUnicode=true&characterEncoding=utf-8&useSSL=false&useSSL=true"
    jdbc_user => "root"
    jdbc_password => "root"
    schedule => "* * * * *"
    statement => "SELECT * from bm_apoint_rfid"
  }
}

output {
#     stdout {
#       codec => json_lines
#   }
    elasticsearch {
        #ESIP地址与端口
        hosts => ["10.10.77.104:9200","10.10.77.105:9200","10.10.77.106:9200"]
        #ES索引名称(自己定义的)
        index => "cqct_20180508_06"
        #文档类型
        document_type => "RFID"
        #文档类型id,%{userid}意思是取查询出来的userid的值,并将其映射到es中_id字段中
        document_id => "%{id}"
        codec => json_lines
    }
}

若报错java.lang.OutOfMemoryError: Java heap space,请参考下一篇文章。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值