A partir do ES 5.x, eles forneceram esse recurso pronto para uso com logstash plugar.
Isso irá importar dados periodicamente do banco de dados e enviar para o servidor ES.
É preciso criar um arquivo de importação simples fornecido abaixo (que também é descrito aqui ) e use o logstash para executar o script. O Logstash oferece suporte à execução desse script em um agendamento.
# file: contacts-index-logstash.conf
input {
jdbc {
jdbc_connection_string => "jdbc:mysql://localhost:3306/mydb"
jdbc_user => "user"
jdbc_password => "pswd"
schedule => "* * * * *"
jdbc_validate_connection => true
jdbc_driver_library => "/path/to/latest/mysql-connector-java-jar"
jdbc_driver_class => "com.mysql.cj.jdbc.Driver"
statement => "SELECT * from contacts where updatedAt > :sql_last_value"
}
}
output {
elasticsearch {
protocol => http
index => "contacts"
document_type => "contact"
document_id => "%{id}"
host => "ES_NODE_HOST"
}
}
# "* * * * *" -> run every minute
# sql_last_value is a built in parameter whose value is set to Thursday, 1 January 1970,
# or 0 if use_column_value is true and tracking_column is set
Você pode baixar o jar do mysql do maven aqui .
Caso os índices não existam no ES quando este script for executado, eles serão criados automaticamente. Assim como uma chamada normal de postagem para elasticsearch
