Login Logout

Howto réplication MySQL

Pour le guide d’installation et d’usage courant, voir HowtoMySQL.

Pour la réplication synchrone avec Galera, voir HowtoMySQL/Galera.

Préparation d’une réplication MASTER/SLAVE

Il faut :

  • soit disposer de deux serveurs MySQL inactifs avec un datadir identique,
  • soit réaliser un mysqldump --master-data sur le serveur où se trouve les données à conserver :
# mysqldump --master-data --all-databases > mysql.dump

--master-data ajoute un CHANGE MASTER TO dans le dump contenant les informations nécessaires à la réplication (nom de fichier et position).

/!\ Cette option implique --lock-all-tables qui bloque toutes les tables pendant le dump !

Il faut également :

  • autoriser la connexion du serveur MySQL SLAVE vers le serveur MASTER ;
  • activer les binlogs sur le serveur MASTER (on conseille le type mixed en général) ;
  • positionner un server-id différent sur chaque serveur (ne pas utiliser 0) ;
  • créer un utilisateur dédié pour la réplication sur le serveur MASTER : GRANT REPLICATION SLAVE ON *.* TO repl@'%' IDENTIFIED BY 'PASSWORD';.

Astuce très utile : pour effectuer des requêtes non prises en compte par la réplication, une astuce est d’utiliser interactivement SET sql_log_bin ce qui n’écrira pas les requêtes SQL suivantes dans le binlog du serveur (et elles ne seront donc pas répliquées au serveur SLAVE) :

mysql> SET sql_log_bin = 0;

Note : cela nécessite le droit MySQL SUPER

Activation d’une réplication MASTER/SLAVE

Il faut récupérer les informations MASTER_LOG_FILE et MASTER_LOG_POS : - soit sur l’un des deux serveurs inactifs avec SHOW MASTER STATUS (dans le cas de deux serveurs avec datadir identique), - soit récupérer l’information dans le mysqldump --master-data (avec la commande head par exemple).

Sur le serveur SLAVE, exécuter :

mysql> CHANGE MASTER TO
   MASTER_HOST='192.168.0.33',
   MASTER_USER='repl',
   MASTER_PASSWORD='PASSWORD',
   MASTER_LOG_FILE='mysql-bin.NNNNNN',
   MASTER_LOG_POS=NNN;

/!\ Bien que non obligatoire, on recommande de toujours indiquer les directives MASTER_LOG_FILE et MASTER_LOG_POS pour éviter des problèmes

Puis démarrer la réplication sur le serveur B avec la commande : START SLAVE.

Enfin, exécuter SHOW SLAVE STATUS pour vérifier le bon fonctionnement.

Désactivation

Pour supprimer toute trace de réplication (sauf si des infos sont en dur dans la configuration) :

mysql> RESET SLAVE;
Query OK, 0 rows affected (0.00 sec)
mysql> RESET SLAVE ALL;
Query OK, 0 rows affected (0.00 sec)

Pour éviter que la réplication démarre automatiquement au démarrage, on ajoutera dans la configuration :

[mysqld]
skip-slave-start

Configuration avancée

https://dev.mysql.com/doc/refman/5.6/en/replication-options-slave.html

Configuration de la réplication via fichier de configuration

La configuration d’une réplication via la commande CHANGE MASTER TO […] est persistente, elle est notamment conservée en cas de redémarrage de MySQL car conservée dans le fichier master.info situé par défaut dans le datadir (y compris le mot de passe en clair !). Nous conseillons cette méthode, mais on peut également configurer via la configuration de MySQL ainsi :

master-host = 192.0.2.33
master-user = repl
master-password = PASSWORD
#master-port = 3306
#master-connect-retry = 60
#master-info-file = master.info
#slave_compressed_protocol=1
#log-slave-updates

Note : En cas d’une bande passante réduite, l’option slave_compressed_protocol permet une compression des données côté MASTER et décompression des données côté SLAVE (cela consomme évidemment davantage de ressources CPU).

Configuration d’une réplication partielle

Une manière d’avoir une réplication peut être de ne pas écrire toutes les requêtes dans les binlogs sur le serveur MASTER via les options binlog_do_db/binlog_ignore_db mais ce n’est pas conseillé car les binlogs ont souvent d’autres utilités (vérifier les requêtes, ou servir pour d’autres serveurs SLAVE).

Une manière différente (ou complémentaire) est d’utiliser les directives replicate-do-db/replicate-ignore-db/replicate-do-table/replicate-ignore-table/replicate-wild-do-table/replicate-wild-ignore-table sur le serveur SLAVE.

/!\ Ces directives ne sont pas parfaites, notamment les requêtes « croisées » du type USE foo; UPDATE bar.baz SET […] ne seront pas comprises, ce qui peut poser des problèmes !

Pour ignorer les requêtes concernant la base mysql :

[mysqld]
replicate-ignore-db = mysql

Pour n’inclure que les requêtes concernant les bases foo et bar :

[mysqld]
replicate-do-db = foo
replicate-do-db = bar

Pour n’inclure que les requêtes concernant les tables foo.baz et foo.qux :

[mysqld]
replicate-do-db = foo
replicate-do-table = foo.baz
replicate-do-table = foo.qux

/!\ On conseille de toujours utiliser replicate-do-db en complément de replicate-do-table/replicate-wild-do-table sinon les requêtes non spécifiques aux tables ne sont pas filtrées (…par exemple les DROP DATABASE venant du serveur MASTER !!)

Les directives replicate-wild-do-table/replicate-wild-ignore-table permettent d’utiliser des expressions régulières avec % et _ (comme pour l’opérateur SQL LIKE), exemple :

[mysqld]
replicate-wild-do-table = mysql.%
replicate-wild-ignore-table = foo%.%

Réplication MASTER/MASTER

Pour une réplication MASTER/MASTER, il faut simplement activer deux réplications MASTER/SLAVE entre les deux serveurs concernés.

On conseille également de :

  • positionner la directive auto-increment-increment = 10 sur chaque serveur
  • positionner la directive auto-increment-offset avec une valeur numérique différente sur chaque serveur (par exemple 0, 1, 2 etc.)

Il est important de savoir qu’utiliser une réplication MySQL MASTER/MASTER implique :

  • de ne pas considérer un INSERT comme immédiatement écrit, il pourrait y avoir un délai de quelques secondes (il faut donc bannir un code qui ferait un INSERT puis un SELECT immédiat de la ligne insérée)
  • d’éviter la directive NOW() dans ses requêtes SQL (valable aussi dans le cas MASTER/SLAVE)

Réplications en chaîne

La règle de base de la réplication MySQL est : un serveur SLAVE ne peut avoir qu’un seul MASTER.

Cela n’empêche pas d’avoir plusieurs serveurs SLAVE pour un serveur MASTER. Et les serveurs SLAVE peuvent également être MASTER de plusieurs serveurs SLAVES… ce qui permet de faire des chaînes complexes de réplications.

Exemple avec 3 serveurs MASTER/MASTER/MASTER :

Serveur A -> Serveur B -> Serveur C [-> Serveur A]

Exemple avec de nombreux serveurs :

Serveur A <-> Serveur B
 \                 \
  \--> Serveur C    \--> Serveur F
   \--> Serveur D    \--> Serveur G
    \--> Serveur E    \---> Serveur H
          \
           \--> Serveur I
            \--> Serveur J

Dans ces cas, il est important d’activer l’option log-slave-updates permettant de générer des binlogs à partir des données reçues via la réplication et permettre ainsi d’être MASTER et transmettre ces données à un autre serveur SLAVE :

[mysqld]
log-slave-updates

Note : On pourrait penser que log-slave-updates provoque une boucle dans une situation master-master. Mais MySQL est « intelligent », il va ignorer les requêtes de réplications qui contiennent son server-id. A → B (avec server-id de A) → A (ignoré).

Monitoring

Icinga/nagios

Pour surveiller que la réplication se fait bien et n’est pas en retard ou cassé par une erreur, on peut mettre en place un check nrpe mysql_slave

Il faut pour cela donner les droits “REPLICATION CLIENT” a l’utilisateur MySQL nrpe :

GRANT REPLICATION CLIENT on *.* TO 'nrpe'@'localhost' IDENTIFIED BY 'PASSWORD';

Munin

Il est aussi intéressant d’ajouter certains graphes à munin pour suivre la application dans le temps.

ln -s '/usr/share/munin/plugins/mysql_' '/etc/munin/plugins/mysql_bin_relay_log'
ln -s '/usr/share/munin/plugins/mysql_' '/etc/munin/plugins/mysql_replication'

Résolution des erreurs lors de la réplication

On vérifie les erreurs avec les commandes SHOW SLAVE STATUS et SHOW MASTER STATUS.

En cas d’erreur, il faut « simplement » résoudre l’erreur, puis relancer la réplication avec la commande START SLAVE. Voici quelques erreurs possibles :

Zapper l’erreur en cours

On peut faire manuellement :

mysql> SET GLOBAL SQL_SLAVE_SKIP_COUNTER=1; START SLAVE;

Fichier de clé incorrect

Incorrect key file for table './base/table.MYI'; try to repair it

Il faut réparer la table concernée.

Doublon sur clé unique

Duplicate entry 'NNNNNN' for key N

Une solution peut être de supprimer la ligne concernée (ou de zapper l’erreur).

Beaucoup d’erreurs à ignorer

Si pour une raison ou un autre, on a plein de DUPLICATE ENTRY mais que l’est sûr de vouloir les ignorer, on peut faire cela en redémarrant MySQL avec le paramètre : slave-skip-errors = 1062 ; on peut faire également cela avec d’autres types d’erreurs. Malheureusement, il faut forcément redémarrer MySQL car cette commande ne se fait pas à chaud : http://bugs.mysql.com/bug.php?id=35611

On peut également avoir d’autres erreurs, par exemple Could not execute Delete_rows event on table foo.bar; Can’t find record in ‘bar’, Error_code: 1032; handler error HA_ERR_KEY_NOT_FOUND; the event’s master log […] et on mettre cette fois slave-skip-errors = 1032

Si plusieurs types d’erreur à ignorer : slave-skip-errors = 1032,1062

L’inconvénient est qu’il faut redémarrer MySQL. Pour éviter cela on peut automatiser le zap de l’erreur (exemple avec l’erreur 1062) en cours :

# while true; do while mysql -e "show slave status" | grep '1062.Error.*REPORT'; \
 do mysql -e "SET GLOBAL SQL_SLAVE_SKIP_COUNTER=1; START SLAVE;"; done ; sleep 1; done

On peut également utilisé un script Shell plus évolué qui prendre les motifs à ignorer dans un fichier error.txt (expressions rationnelles étendues, compatibles grep -E) et qui proposera de zapper manuellement (ou pas) si l’erreur ne correspondant aux motifs :

#!/bin/sh

# File containing error messages to skip (one per line).
error_messages="errors.txt"

# Sleep interval between 2 check.
sleep_interval="1"

# Exit when Seconds_Behind_Master reached 0.
exit_when_uptodate="false"

# Options to pass to mysql.
#mysql_opt="-P 3307"

# File to log skipped queries to (leave empty for no logs).
log_file=""

mysql_skip_error() {
    error="$1"

    printf "Skiping: $error\n"
    mysql $mysql_opt -e 'SET GLOBAL SQL_SLAVE_SKIP_COUNTER=1; START SLAVE;'

    [ -n "$log_file" ] && echo "$error" >>"$log_file"
}

while true; do
    slave_status="$(mysql $mysql_opt -e 'SHOW SLAVE STATUS\G')"
    seconds_behind_master=$(echo "$slave_status" |grep 'Seconds_Behind_Master: ' |awk -F ' ' '{print $2}')
    last_SQL_error="$(echo "$slave_status" |grep 'Last_SQL_Error: ' |sed 's/^.\+Last_SQL_Error: //')"

    if $exit_when_uptodate && [ "$seconds_behind_master" = "0" ]; then
        printf 'Replication is up to date!\n'
        exit 0

    elif [ -z "$last_SQL_error" ]; then
        sleep $sleep_interval

    elif echo "$last_SQL_error" |grep -q -f $error_messages; then
        mysql_skip_error "$last_SQL_error"

    else
        printf "Current SQL error doesn't match the pattern:\n"
        printf "$last_SQL_error\n"
        printf "Skip it? [y/N]: "
        read reply
        if [ "$reply" = "y" ] || [ "$reply" = "Y" ]; then
            mysql_skip_error $last_SQL_error
        fi
    fi
done

Récupération de position impossible

[ERROR] Error reading packet from server: Client requested master to start replication from impossible position (server_errno=1236)

Cela signifie que la position indiquée sur le binlog du master est impossible à récupérer. On peut le vérifier avec une commande du type mysqlbinlog mysqld-bin.00123 --start-position=251 sur le master.

Si l’on constate que le binlog est corrompu avec des erreurs du type ERROR: Error in Log_event::read_log_event(): ‘read error’ # Warning: this binlog is either in use or was not closed properly. ou ERROR: Error in Log_event::read_log_event(): ‘Event too small’, data_len: 0, event_type: 0 l’idée est d’identifier les requêtes non jouées sur le slave dans le binlog corrompu (voir le Relay_Master_Log_File via SHOW SLAVE STATUS) et de les rejouer (cf HowtoMySQL#Replay) puis de passer au binlog suivant via une commande du type CHANGE MASTER TO MASTER_LOG_FILE='mysql-bin.000124' , MASTER_LOG_POS=106; START SLAVE; (la position à indiquer est souvent 106, cf mysqlbinlog mysql-bin.000124).

Si l’on juge cela non nécessaire (données non critiques), on pourra bien sûr passer directement au binlog suivant en ignorant les requêtes du binlog corrompu. Bien sûr, suite à ces manipulations risquées, on vérifiera ensuite la cohérence de la base de données répliquée (COUNT(*) ou outils plus avancés).

Could not parse relay log event entry

Could not parse relay log event entry. The possible reasons are: the master's binary log is corrupted (you can check this by running 'mysqlbinlog' on the binary log),
the slave's relay log is corrupted (you can check this by running 'mysqlbinlog' on the relay log), a network problem, or a bug in the master's or slave's MySQL code.
If you want to check the master's binary log or slave's relay log, you will be able to know their names by issuing 'SHOW SLAVE STATUS' on this slave.

Souvent un binlog corrompu, voir le Relay_Master_Log_File SHOW SLAVE STATUS.

Note: Jusqu’à MySQL <= 5.1 au moins, changer la position dans un Relay_log avec un CHANGE MASTER TO ne marche pas. Voir Changement de la position dans un Relay_log.

Erreur fatale à la lecture du binlog

Erreur : Got fatal error 1236 from master when reading data from binary log: 'log event entry exceeded max_allowed_packet; Increase max_allowed_packet on master'

On obtient apparemment cela dans différents cas.

Réinitialiser la réplication

Dans certains cas exceptionnels, une solution radicale est de réinitialiser la réplication avec un STOP SLAVE; RESET SLAVE; START SLAVE; Attention, cela doit être fait dans de très rares cas maîtrisés (attention notamment aux conflits DUPLICATE ENTRY que cela risque de provoquer).

Status OK, mais pas de réplication

Si un SHOW SLAVE STATUS ne retourne pas d’erreur mais que la réplication ne se fait pas, les logs du slave peuvent contenir une erreur du type :

[Note] Slave I/O thread: Failed reading log event, reconnecting to retry, log 'mysql-bin.003357' at position 389449
[Note] Slave: received end packet from server, apparent master shutdown:

Il se peut que le master se réplique sur 2 slaves ayant un server-id identique !

ERROR 1201 lors de l’injection du dump

Si lors de l’injection du dump sur le slave cette erreur apparaît :

ERROR 1201 (HY000) at line 22: Could not initialize master info structure

Il faut supprimer toute traces des anciennes réplications avec :

RESET SLAVE;

Et ensuite ré-injecter le dump.

Changement de la position dans un Relay_log

À faire uniquement si en tentant de changer la position d’un Relay_log sur un slave, vous obtenez cette erreur :

Error initializing relay log position: Could not find target log during
relay log initialization

Il faut alors stopper le processus slave de réplication :

mysql> STOP SLAVE;

Puis éditer (en gardant une sauvegarde) le fichier ${datadir}/relay-log.info. La première ligne correspond au Relay_Log_File, la seconde au Relay_Log_Pos. Redémarrer MySQL.

Ré-intégré dans la réplication une base qui aurait été exclu.

Dans cet exemple, la base avait été exclu de la réplication, avec replicate-ignore-db, les lectures des requêtes de la base est ignoré sur le slave, mais le master continue d’écrire les requêtes de la base dans les binlogs.

1 - On enlève l’exclusion de la base dans le fichier de configuration :

#replicate-ignore-db = foo

2 - On fait un dump de cette base sur le master :

# mysqldump foo > foo.sql 

3- On ré-injecte ce dump sur le slave :

# mysql -o foo < foo.sql

4- On redémarre MySQL (ou l’instance) sur le slave, pour qu’il relise le fichier de configuration et ignore l’exclusion de la base sur le slave :

# systemctl restart mysql.service

S’il s’agit d’une instance, exemple si l’instance se trouve sur le port 3307 :

# mysqladmin -P 3307 shutdown
# mysqld_multi start 1

En cas de réplication master - master, avec un slave de chaque côté, il faut le faire des deux côtés.

Il existe d’autres méthodes, pour faire cela, celle-ci est la plus simple et elle a l’avantage de gérés les locks des tables, on ne doit pas le faire à la main.

Contrôle de l’intégrité de la réplication

pt-table-checksum

https://www.percona.com/doc/percona-toolkit/2.1/pt-table-checksum.html

C’est un outil de Percona intégré dans son toolkit. (Package Debian percona-toolkit disponible à partir de Wheezy).

L’outil vérifie l’intégrité de la réplication en effectuant des requêtes de checksum (crc32 par défaut) sur le master, puis les requêtes sont joués sur les slaves permettant de trouver des différences.

La méthode la plus simple pour l’utiliser est d’autoriser le master à se connecter au slave (authentification MySQL). Ainsi, il s’occupe lui-même de faire le nécessaire pour identifier les erreurs. Il suffira donc de lancer la commande sans argument pour qu’il identifie les incohérences. On pourra réaliser un cron avec l’argument -q qui ne fait remonter que les erreurs.

MAILTO=jdoe@example.com
42 9 * * 7 pt-table-checksum -q

Si on veut afficher seulement les différences on peut utiliser l’option --replicate-check-only exemple avec un pt-table-checksum sur une base en particulier:

# pt-table-checksum --replicate-check-only --databases foo

pt-table-sync

Si pt-table-checksum vous a remonté des incohérences, vous pouvez avec cet outil les corriger. Cela va identifier les différences et les corriger avec un REPLACE sur le master (qui sera donc répliqué sur le slave), garantissant la cohérence des données.

Exemple :

# pt-table-sync --print --replicate percona.checksums localhost
# pt-table-sync --execute --replicate percona.checksums localhost

En cas de Can't make changes on the master because no unique index exists. On peut synchroniser directement les différences sur le slave depuis le master.

# pt-table-sync --execute --no-check-slave localhost slave