Jak integrovat ElasticSearch s MySQL?

Počínaje verzí ES 5.x poskytují tuto funkci ihned po vybalení pomocí logstash zapojit.

Toto bude pravidelně importovat data z databáze a odeslat je na ES server.

Je třeba vytvořit jednoduchý importní soubor uvedený níže (který je také popsán zde ) a ke spuštění skriptu použijte logstash. Logstash podporuje spouštění tohoto skriptu podle plánu.

# file: contacts-index-logstash.conf
input {
    jdbc {
        jdbc_connection_string => "jdbc:mysql://localhost:3306/mydb"
        jdbc_user => "user"
        jdbc_password => "pswd"
        schedule => "* * * * *"
        jdbc_validate_connection => true
        jdbc_driver_library => "/path/to/latest/mysql-connector-java-jar"
        jdbc_driver_class => "com.mysql.cj.jdbc.Driver"
        statement => "SELECT * from contacts where updatedAt > :sql_last_value"
    }
}
output {
    elasticsearch {
        protocol => http
        index => "contacts"
        document_type => "contact"
        document_id => "%{id}"
        host => "ES_NODE_HOST"
    }
}
# "* * * * *" -> run every minute
# sql_last_value is a built in parameter whose value is set to Thursday, 1 January 1970,
# or 0 if use_column_value is true and tracking_column is set

Mysql jar si můžete stáhnout z maven zde .

V případě, že indexy v ES při spuštění tohoto skriptu neexistují, budou vytvořeny automaticky. Stejně jako normální příspěvek na elasticsearch