Howto MySQL : installation et utilisation courante.
- Installation
- Configuration
- datadir / tmpdir
- Logs
- Utilisation courante
- Administration
- Créer une base de données et un utilisateur associé
- Créer des utilisateurs et gérer leurs droits
- Vérifications et réparations
- OPTIMIZE
- routines MySQL
- Changement mot de passe utilisateur
- Changer variables globales d’environnement
- Lister les variables de configuration
- Lecture seule
- Tailles de bases et de tables
- Lister les Indexes de toutes les tables
- Logs
- Sauvegarde
- Monitoring
- binlogs
- Multiples instances MySQL
- Plugins
- Activer la connexion via SSL/TLS à la base de données
- Chiffrement de la base de données Transparent Data Encryption (TDE)
- Optimisation avancée
- Réplication MySQL
- Mariabackup / Percona XtraBackup
- FAQ et erreurs courantes
- Documentation MariaDB : https://mariadb.com/kb/en/library/documentation/
- Documentation MySQL 5.5 : http://dev.mysql.com/doc/refman/5.5/en/
- Rôle Ansible : https://forge.evolix.org/projects/ansible-roles/repository/show/mysql
- Statut de cette page : prod / bullseye
MySQL est une base de données très populaire au sein des infrastructures web. Nous utilisons au choix la version libre de MySQL distribuée par Oracle, et MariaDB un fork créé en 2009 par le créateur initial de MySQL.
Installation
Sous Debian 11, nous installons MariaDB :
# apt install mariadb-server mariadb-client libconfig-inifiles-perl
$ mysql --version
mysql Ver 15.1 Distrib 10.5.15-MariaDB, for debian-linux-gnu (x86_64) using EditLine wrapper
Note : Sous Debian 8, nous installons la version libre de MySQL distribuée par Oracle :
# apt install mysql-server $ mysql --version mysql Ver 14.14 Distrib 5.5.53, for debian-linux-gnu (x86_64) using readline 6.3
ou MariaDB :
# apt install mariadb-server-10.0 $ mysql --version mysql Ver 15.1 Distrib 10.0.28-MariaDB, for debian-linux-gnu (x86_64) using readline 5.2
L’installation sous Debian 11 ne permet plus a l’utilisateur SQL root de se connecter avec un mot de passe, mais seulement via la socket
On mets donc en place le .my.cnf
suivant dans /root/ :
[client]
user = root
socket = /run/mysqld/mysqld.sock
On peut créer un utilisateur root comme ceci :
mysql> CREATE USER root@localhost IDENTIFIED VIA unix_socket;
Si dans SQL_MODE
la valeur NO_AUTO_CREATE_USER
n’est pas activé, on peut créé l’utilisateur root comme ceci :
mysql> GRANT ALL PRIVILEGES ON *.* TO root@localhost IDENTIFIED VIA unix_socket WITH GRANT OPTION;
En Debian 11, il n’y a plus d’utilisateur SQL debian-sys-main
, le fichier /etc/mysql/debian.cnf
est toujours créé mais est obsolète et ne doit plus être utilisé.
Sous Debian 8, avec MariaDB 10.0, l’utilisateur debian-sys-maint n’a pas le privilège GRANT. Il est donc impossible de créer d’autres utilisateurs en étant connecté avec ce compte.
bibliothèque client
Certains logiciels tiers nécessitent la “bibliothèque client”.
Sur Debian 8, c’est le paquet libmysqlclient-dev
.
Sur Debian 9 (et Debian 8 avec backports), c’est le meta-paquet default-libmysqlclient-dev
qui permet de facilement installer la paquet adapté à votre base de données.
MySQL 5.7 sur Debian 9
https://dev.mysql.com/doc/mysql-apt-repo-quick-guide/
Pour installer MySQL 5.7 distribuée par Oracle sous Debian 9, on ajoute le dépôt repo.mysql.com :
# echo "deb http://repo.mysql.com/apt/debian stretch mysql-5.7" > /etc/apt/sources.list.d/mysql57.list
# wget 'http://keys.gnupg.net/pks/lookup?op=get&search=0x8C718D3B5072E1F5' -O /etc/apt/trusted.gpg.d/mysql57.asc
Note: la clé GPG peut aussi être récupérée via https://dev.mysql.com/doc/refman/en/checking-gpg-signature.html
On peut ensuite installer les paquets :
# apt install mysql-server mysql-client
Note : il faudra alors installer mytop en récupérant le package de Debian 8
MySQL 8.0 sur Debian 9
Pour installer MySQL 8.0 distribué par Oracle sous Debian 9, on ajoute le dépôt repo.mysql.com
:
# echo "deb http://repo.mysql.com/apt/debian stretch mysql-8.0" > /etc/apt/sources.list.d/mysql80.list
# apt-key adv --keyserver keys.openpgp.org --recv-keys 0x8C718D3B5072E1F5
Malheureusement, la clé est expirée, il faut forcer apt update
avec --allow-unauthenticated
:
# apt-get update --allow-unauthenticated
On peut ensuite mettre-à-jour MySQL :
# apt install mysql-server
Enfin, désactiver le dépôt pour ne pas rencontrer des erreurs aux prochains updates :
mv /etc/apt/sources.list.d/mysql80.list /etc/apt/sources.list.d/mysql80.list~
Configuration
Le fichier de configuration principal est /etc/mysql/my.cnf
qui inclue notamment les fichiers .cnf
présents dans les sous-répertoires conf.d/
et mariadb.conf.d/
.
Note : attention, si vous avez une configuration MySQL/MariaDB issue d’une Debian 8 (suite upgrade par exemple), le sous-répertoire
mariadb.conf.d/
ne sera pas pris en compte.
Le fichier /etc/mysql/mariadb.conf.d/z-evolinux-defaults.cnf
contient nos optimisations basiques :
[mysqld]
###### Connexions
# Maximum de connexions concurrentes (défaut = 100)... provoque un "Too many connections"
max_connections = 250
# Maximum de connexions en attente en cas de max_connections atteint (défaut = 50)
back_log = 100
# Maximum d'erreurs avant de blacklister un hote
max_connect_errors = 10
# Loguer les requetes trop longues
slow_query_log = 1
slow_query_log_file = /var/log/mysql/mysql-slow.log
long_query_time = 10
###### Tailles
# Taille réservée au buffer des index MyIsam
# A ajuster selon les résultats utilisateurs
key_buffer_size = 512M
# Taille max des paquets envoyés/reçus … provoque un "Packet too large"
max_allowed_packet = 64M
# Taille de la mémoire réservée pour un thread
thread_stack = 192K
# A mettre le nombre de threads CPU alloues pour MySQL
thread_cache_size = 1
# Taille maximum des tables de type MEMORY
max_heap_table_size = 64M
###### Cache
# max_connections x nombre max de tables dans une jointure (défaut = 64)
table_open_cache = 4096
table_definition_cache = 4096
# Taille max des requêtes cachées (défaut = 1M)
query_cache_limit = 8M
# Taille réservée pour le cache (défaut = 0)
query_cache_size = 256M
# Type de requêtes à cacher (défaut = 1 : tout peut être caché)
query_cache_type = 1
# Cache tables
max_heap_table_size = 128M
tmp_table_size = 128M
###### InnoDB
# Si InnoDB n'est pas utilisé... le désactiver
#skip-innodb
# En général, il est plus optimum d'avoir un fichier par table
innodb_file_per_table
# Taille mémoire allouée pour le cache des datas et index
# A ajuster en fonction de sa RAM (si serveur dédié à MySQL, on peut aller jusqu'à 70%)
innodb_buffer_pool_size = 512M
# Nombre maximum de threads système concurrents
innodb_thread_concurrency = 16
# Ajuste la valeur des logs InnoDB
# (attention, il faut ensuite stopper MySQL et effacer les fichiers ib_logfile*)
#innodb_log_file_size = 128M
#innodb_log_files_in_group = 2
###### Misc
# Charset utf8 par défaut
character-set-server=utf8
collation-server=utf8_general_ci
# Patch MySQL 5.5.53
secure-file-priv = ""
Note : MariaDB 10.1 avec Debian 9 est par défaut en utf8mb4
+ collation utf8mb4_general_ci
.
Le fichier /etc/mysql/mariadb.conf.d/zzz-evolinux-custom.cnf
contient nos éventuelles optimisations spécifiques.
Nous désactivons également une protection mise en place par l’unité systemd. Cela permet d’utiliser la partition /home
ou /srv
pour des sauvegardes ou autres opérations :
# cat /etc/systemd/system/mariadb.service.d/evolinux.conf
[Service]
ProtectHome=false
Par défaut, MySQL écoute en réseau sur 127.0.0.1
(port TCP/3306) et sur la socket Unix /var/run/mysqld/mysqld.sock
Pour activer les connexions réseau à distance, il faut ajouter la configuration suivante dans zzz-evolinux-custom.cnf
:
[mysqld]
bind-address = 0.0.0.0
Puis, mettre les permissions :
# chmod o+r /etc/mysql/mariadb.conf.d/zzz-evolinux-custom.cnf
Pour plus d’informations sur l’optimisation avancée de MySQL, consultez le guide /HowtoMySQL/Optimize.
Note : Sous Debian 8, nous mettons notre configuration dans
/etc/mysql/conf.d/evolinux.cnf
Configuration de la mémoire (InnoDB)
Selon les ressources de la machine, il faut optimiser davantage les options (par défaut, la configuration est adaptée pour une machine avec très peu de mémoire vive !).
On conseille au minimum d’ajuster thread_cache_size
et innodb_buffer_pool_size
:
[mysqld]
# Nombre de threads CPU alloués pour MySQL
thread_cache_size = 2
# Mémoire allouée pour le cache InnoDB (si serveur dédié à MySQL, on peut aller jusqu'à 70% de la RAM)
innodb_buffer_pool_size = 2G
Attention : MySQL consomme plus de mémoire que ce qui est indiqué dans la variable innodb_buffer_pool_size
. Celle-ci n’est que la taille totale du tampon mémoire utilisable par les instances des « workers » de InnoDB.
Si MySQL utilise trop de mémoire, le système va swapper, et on peut observer une importante baisse des performances. Pour vérifier que MySQL ne swappe pas, il faut que les valeurs si
et so
de la commande suivante soient égales à zéro :
# vmstat
procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
r b swpd free buff cache si so bi bo in cs us sy id wa st
0 0 976884 3301840 200564 1540540 0 0 6 53 0 0 2 1 96 1 0
A partir de MariaDB 10.2 (Debian 10 - Buster), il est possible d’ajuster dynamiquement (= sans redémarrer MySQL) la variable innodb_buffer_pool_size
. Elle doit être un multiple de innodb_buffer_pool_chunk_size
x innodb_buffer_pool_instances
(par défaut 128M x 8), en octets (1 Go = 1073741824 octets).
# Afficher la valeur de innodb_buffer_pool_size :
mysql > SELECT @@innodb_buffer_pool_size;
# Redimensionner dynamiquement innodb_buffer_pool_size :
mysql > SET GLOBAL innodb_buffer_pool_size=...; # en octets
# Afficher l'avancement du redimensionnement dynamique :
mysql > SHOW STATUS WHERE Variable_name='InnoDB_buffer_pool_resize_status';
+----------------------------------+----------------------------------------------------+
| Variable_name | Value |
+----------------------------------+----------------------------------------------------+
| Innodb_buffer_pool_resize_status | Completed resizing buffer pool at ... |
+----------------------------------+----------------------------------------------------+
Il faut ensuite penser à ajuster aussi la valeur de innodb_buffer_pool_size
dans /etc/mysql/mariadb.conf.d/zzz-evolinux-custom.cnf
comme indiqué ci-dessus.
Pour aller plus loin : https://mariadb.com/kb/en/mariadb-memory-allocation/
datadir / tmpdir
Par défaut, le datadir (le répertoire où sont stockées les données brutes) est /var/lib/mysql/
.
Pour diverses raisons il peut être intéressant de le déplacer (partition ou disque dédié etc.).
Pour des raisons de compatibilité, on conseille de conserver un lien symbolique :
# systemctl stop mysql
# mv /var/lib/mysql /srv/mysql-datadir
# ln -s /srv/mysql-datadir /var/lib/mysql
# systemctl start mysql
# systemctl status mysql
Pour certaines opérations lourdes, MySQL a besoin d’un tmpdir (répertoire où il va écrire des tables temporaires). Par défaut il utilise /tmp
mais vu qu’il est parfois nécessaire d’avoir plusieurs Go de libre, on pourra utiliser un répertoire différents :
[mysqld]
tmpdir = /srv/mysql-tmpdir
Liste toutes les permissions utilisateurs
Si vous avez installé le paquet percona-toolkit
vous pouvez utiliser la commande pt-show-grants
. De nombreuses options permettent de filtrer la sortie par base, utilisateur, type de permissions…
Logs
Sous Debian, les journaux de MySQL (démarrage, arrêt, erreurs, informations) sont envoyés via syslog. Par défaut, ils seront donc visibles dans /var/log/syslog
.
Le répertoire /var/log/mysql/
contient les binlogs (trace de toutes les requêtes INSERT/UPDATE/DELETE exécutées).
Utilisation courante
Créer
Créer une nouvelle base de données nommée foo :
mysql> CREATE DATABASE foo;
Créer une table nommée bar avec différents champs :
mysql> CREATE TABLE bar (id INT not null AUTO_INCREMENT, prenom VARCHAR
(50) not null , nom VARCHAR (50) not null , ne_le DATE not null ,
ville VARCHAR (90), enfants INT, PRIMARY KEY (id));
Ajouter un champ à une table :
mysql> ALTER TABLE bar ADD another VARCHAR(100) DEFAULT NULL;
Ajouter un champ à une table en précisant sa place :
mysql> ALTER TABLE bar ADD another VARCHAR(100) DEFAULT NULL AFTER prenom;
Lister
Voir les bases de données créées :
mysql> SHOW DATABASES;
Lister les utilisateurs :
mysql> select Host,user from mysql.user;
Lister les utilisateurs d’une base :
select User,Host from mysql.db where Db="DATABASE" order by User;
Connaître les privilèges d’un utilisateur :
mysql> show grants for USER@'HOST';
Utiliser la base de données foo :
mysql> USE foo
Voir les tables créées :
mysql> SHOW TABLES;
Décrire une table :
mysql> DESC bar;
Sélectionner tous les champs d’une table :
mysql> SELECT * FROM bar;
Lancer des commandes bash depuis l’invite de commande :
mysql> \! ls -l
-rw-r----- 1 user user 208774 Jan 11 14:31 dump_base.sql
Lister les droits pour tous les accès MySQL créés :
# mysql -e "select concat('\'',User,'\'@\'',Host,'\'') as '' from mysql.user" | sort | \
( while read user; do [ -z "$user" ] && continue; echo "-- $user :"; mysql -e "show grants for $user"; done )
-- 'accesbase'@'localhost' :
Grants for accesbase@localhost
GRANT USAGE ON *.* TO 'accesbase'@'localhost' IDENTIFIED BY PASSWORD '*XXXX'
GRANT ALL PRIVILEGES ON `base`.* TO 'accesbase'@'localhost'
# mysql -e "select * from information_schema.user_privileges;"
Supprimer
Supprimer un champ à une table :
mysql> ALTER TABLE bar DROP another;
Effacer des données d’une table :
mysql> DELETE FROM bar WHERE nom='waddle';
Effacer TOUTES les données d’une table :
mysql> DELETE FROM bar;
Supprimer une table :
mysql> DROP TABLE bar;
Supprimer une base de données :
mysql> DROP DATABASE foo; # Mettre le nom de la base entre backquotes s'il contient un trait d'union : `foo-bar`
Supprimer les différents privilèges pour un utilisateur mysql :
mysql> REVOKE ALL PRIVILEGES ON base.* FROM 'user'@'localhost';
Lister les bases de données dont l’utilisateur à le droit d’accès:
SELECT * FROM mysql.db WHERE User="nvmpubli";
Supprimer un utilisateur (supprime aussi les entrées dans mysql.db):
mysql> DROP USER 'user'@'localhost';
Renommer
Base
- Créer une base vide
- Renommer toutes les tables vers cette dernière (utilisation script ci-dessous)
BASE_FROM=db1; BASE_TO=db2
for table in $(mysql -e "use $BASE_FROM; show tables\G;" | grep -v '^\*\*\*' | cut -d':' -f2 | sed 's/^ //'); do echo $table; mysql -e "RENAME TABLE ${BASE_FROM}.${table} TO ${BASE_TO}.${table};"; done
- Appliquer les bons droits à la bdd
Table
Renommer un champ :
mysql> ALTER TABLE bar CHANGE COLUMN another anotherone TEXT;
Changer le type d’un champ :
mysql> ALTER TABLE bar CHANGE another another enum('foo',bar');
Insérer
Insertion de données dans une table :
mysql> INSERT INTO bar VALUES (1,'jp','papin','2005-06-12','Marseille',2);
INSERT INTO test (id,prenom,nom,ne_le) VALUES (2,'c','waddle','2004-06-17');
Vues
Lister les vues de la base foo :
mysql> SHOW FULL TABLES IN foo WHERE TABLE_TYPE LIKE 'VIEW';
Créer une vue baz à partir du contenu de la table bar :
mysql> CREATE VIEW baz AS SELECT * FROM bar;
Voir la vue :
mysql> SHOW CREATE VIEW `baz`;
Supprimer une vue baz :
mysql> DROP VIEW `baz`;
Administration
Créer une base de données et un utilisateur associé
On crée une base de données et un utilisateur associé :
# mysqladmin create $db_name
# mysql
mysql> GRANT ALL PRIVILEGES ON $db_name.* TO '$user'@'localhost' IDENTIFIED BY '$password';
Cette opération revient à insérer des lignes suivante dans les tables mysql.user
et mysql.db
:
mysql> INSERT INTO mysql.user VALUES ('localhost','jdoe',password('PASSWORD'),'N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','N','','','','',0,0,0,0,'',NULL);
mysql> INSERT INTO mysql.db VALUES ('localhost','foo','jdoe','Y','Y','Y','Y','Y','Y','N','Y','Y','Y','Y','Y','Y','Y','Y','Y','Y','Y','Y');
mysql> FLUSH PRIVILEGES;
Si l’utilisateur existe déjà, on peut récupérer le hash de son mot de passe et lui créer l’accès de la manière suivante :
mysql> SHOW GRANTS FOR '$user'@'host';
mysql> GRANT ALL PRIVILEGES ON $db_name.* TO '$user'@'localhost' IDENTIFIED BY PASSWORD '$hash';
À savoir :
Pour migrer de Debian 6 à 7 : - 3 colonnes ont été ajoutées dans mysql.user
: Create_tablespace_priv, plugin et authentication_string (pour migrer il faut ajouter ‘N’ en 32ème position + ‘’ et NULL à la fin) - 2 colonnes ont été ajoutées dans mysql.db
: Event_priv et Trigger_priv (pour migrer il faut ajouter ’Y’ et ‘Y’ à la fin)
Créer des utilisateurs et gérer leurs droits
On pourra ainsi régler finement les droits d’un utilisateur en connaissant la signification de chaque colonne :
mysql> desc user;
+------------------------+-----------------------------------+------+-----+---------+-------+
| Field | Type | Null | Key | Default | Extra |
+------------------------+-----------------------------------+------+-----+---------+-------+
| Host | char(60) | NO | PRI | | |
| User | char(16) | NO | PRI | | |
| Password | char(41) | NO | | | |
| Select_priv | enum('N','Y') | NO | | N | |
| Insert_priv | enum('N','Y') | NO | | N | |
| Update_priv | enum('N','Y') | NO | | N | |
| Delete_priv | enum('N','Y') | NO | | N | |
| Create_priv | enum('N','Y') | NO | | N | |
| Drop_priv | enum('N','Y') | NO | | N | |
| Reload_priv | enum('N','Y') | NO | | N | |
| Shutdown_priv | enum('N','Y') | NO | | N | |
| Process_priv | enum('N','Y') | NO | | N | |
| File_priv | enum('N','Y') | NO | | N | |
| Grant_priv | enum('N','Y') | NO | | N | |
| References_priv | enum('N','Y') | NO | | N | |
| Index_priv | enum('N','Y') | NO | | N | |
| Alter_priv | enum('N','Y') | NO | | N | |
| Show_db_priv | enum('N','Y') | NO | | N | |
| Super_priv | enum('N','Y') | NO | | N | |
| Create_tmp_table_priv | enum('N','Y') | NO | | N | |
| Lock_tables_priv | enum('N','Y') | NO | | N | |
| Execute_priv | enum('N','Y') | NO | | N | |
| Repl_slave_priv | enum('N','Y') | NO | | N | |
| Repl_client_priv | enum('N','Y') | NO | | N | |
| Create_view_priv | enum('N','Y') | NO | | N | |
| Show_view_priv | enum('N','Y') | NO | | N | |
| Create_routine_priv | enum('N','Y') | NO | | N | |
| Alter_routine_priv | enum('N','Y') | NO | | N | |
| Create_user_priv | enum('N','Y') | NO | | N | |
| Event_priv | enum('N','Y') | NO | | N | |
| Trigger_priv | enum('N','Y') | NO | | N | |
| Create_tablespace_priv | enum('N','Y') | NO | | N | |
| ssl_type | enum('','ANY','X509','SPECIFIED') | NO | | | |
| ssl_cipher | blob | NO | | NULL | |
| x509_issuer | blob | NO | | NULL | |
| x509_subject | blob | NO | | NULL | |
| max_questions | int(11) unsigned | NO | | 0 | |
| max_updates | int(11) unsigned | NO | | 0 | |
| max_connections | int(11) unsigned | NO | | 0 | |
| max_user_connections | int(11) unsigned | NO | | 0 | |
| plugin | char(64) | YES | | | |
| authentication_string | text | YES | | NULL | |
+------------------------+-----------------------------------+------+-----+---------+-------+
42 rows in set (0.00 sec)
Par exemple, pour permettre à un utilisateur (ici debian-sys-maint) de faire des SHOW VIEW
:
mysql> UPDATE user SET Show_view_priv='Y' WHERE User='debian-sys-maint';
mysql> FLUSH PRIVILEGES;
…que l’on peut aussi faire via :
mysql> GRANT SHOW VIEW on *.* to `debian-sys-maint`@localhost;
Pour créer un utilisateur sans droit particulier, par exemple pour du monitoring :
mysql> create user nrpe@localhost identified by 'PASSWORD';
On peut aussi gérer des droits sur les tables :
mysql> GRANT Select,Insert,Update ON foo.bar TO 'jdoe'@localhost;
Pour révoquer des droits sur une table, on utilisera REVOKE
:
mysql> REVOKE ALL PRIVILEGES ON foo.bar FROM 'jdoe'@localhost;
/!\ Un droit est particulier : pour utiliser LOAD DATA INFILE ou SELECT INTO OUTFILE, il faut avoir le droit FILE
… mais il est global (et dangereux) ! On le positionnera ainsi :
mysql> GRANT FILE ON *.* TO 'jdoe'@localhost;
Si l’on veux autoriser l’accès a une base depuis un utilisateur MySQL, depuis l’extérieur :
/!\ Il faut s’assurer que MySQL écoute bien sur toutes les IPs (bind-address = 0.0.0.0 dans la configuration MySQL)
Depuis une ip particulière :
mysql> GRANT ALL PRIVILEGES ON foo.* TO 'jdoe'@'IP_ADDRESS' IDENTIFIED BY 'PASSWORD';
Depuis toutes les IPs :
mysql> GRANT ALL PRIVILEGES ON foo.* TO 'jdoe'@'%' IDENTIFIED BY 'PASSWORD';
Si l’on ne connait pas le mot de passe, on peut utiliser le hash du mot de passe de l’utilisateur mysql comme ceci
mysql> GRANT ALL PRIVILEGES ON foo.* TO 'jdoe'@'%' IDENTIFIED BY PASSWORD '*E355A1AB8251C0B7E02ED8483696B2F3954C05CC';
Pour créer un nouvel administrateur qui puisse également gérer les droits :
GRANT ALL PRIVILEGES ON *.* TO '<ADMIN>'@'localhost' IDENTIFIED BY '<PASSWORD>' WITH GRANT OPTION;
Vérifications et réparations
Pour vérifier et réparer toutes les tables (une sorte de fsck pour les tables), on lancera :
# mysqlcheck --auto-repair --check --all-databases
On peut aussi réparer qu’une base en particulier :
# mysqlcheck --auto-repair --check foo
Note : ceci peut être à faire en cas d’arrêt inopiné du service.
Pour réparer une seule table :
mysql> CHECK TABLE foo.bar;
mysql> REPAIR TABLE foo.bar;
Dans le cas des tables MyISAM, si le REPAIR échoue, une réparation est aussi possible via myisamchk
… à faire avec le service MySQL arrêté :
# myisamchk -r -q /var/lib/mysql/foo/bar.MYD
En cas d’échec (segfault par exemple), on peut tenter :
# myisamchk --safe-recover -v -f --key_buffer_size=512M --sort_buffer_size=512M --read_buffer_size=4M --write_buffer_size=4M /var/lib/mysql/BASE/TABLE.MYD
OPTIMIZE
Il est conseillé de lancer régulièrement la commande OPTIMIZE TABLE
sur ses tables. Cela va réaliser une sorte de défragmentation des tables (*.idb
), notamment sur les indexes. C’est particulièrement recommandé sur les tables qui subissent beaucoup de changement, notamment des modifications/suppressions de lignes.
Voici comment on lance l’opération sur une table :
mysql> OPTIMIZE TABLE foo.bar;
On peut également lancer cela sur l’ensemble des tables d’une base (mais cela peut être très long) :
# mysqlcheck --optimize --all-databases
Note : lors d’un OPTIMIZE TABLE, la table est lockée.
Suivant le moteur utilisé pour une table, les opérations vont être différentes. Notamment pour le moteur InnoDB vous aurez un message du type Table does not support optimize, doing recreate + analyze instead
et une table temporaire sera complètement recréée et remplacera l’ancienne (attention à l’espace disque !).
routines MySQL
mysql> select * from INFORMATION_SCHEMA.routines;
Changement mot de passe utilisateur
mysql> SET PASSWORD FOR 'jdoe'@'localhost' = PASSWORD('my_password');
MariaDB [(none)]> GRANT USAGE ON *.* TO 'jdoe'@'%' IDENTIFIED BY "passwd";
Par rapport à un autre utilisateur :
mysql> use mysql;
mysql> UPDATE mysql.user SET Password=PASSWORD('my_new_password') WHERE User='jdoe' and Host='localhost';
Ou encore plus simple en se connectant avec le compte utilisateur puis lancer les commandes suivantes sans oublier de modifier le fichier de configuration :
$ mysql
> set password = password("mon-mot-de-passe-en-clair");
$ vim ~/my.cnf
Changer variables globales d’environnement
On peut changer à chaud certaines variables globales d’environnement :
mysql> SET GLOBAL max_connect_errors=50;
ou
mysql> SET @@max_connect_errors=50;
Voici les changements utiles :
mysql> set global max_connections = 350;
Note : on prendra garde à modifier aussi en dur dans la configuration si le changement doit être persistent.
Lister les variables de configuration
Pour voir la liste de toutes les variables :
mysql> show variables;
Pour ne voir qu’un sous-ensemble de variables :
mysql> show variables like 'read_only';
mysql> show variables like '%thread%';
Pour dumper la configuration MySQL dans un fichier (à adapter s’il y a plusieurs instances) :
mysql -A -e"SHOW GLOBAL VARIABLES;" > mysql_settings
Lecture seule
Si on veut qu’une instance de MySQL soit démarrée en lecture seule, on peut ajouter la variable read_only = 1
dans la section [mysqld]
. Seules les requêtes faites par des utilisateurs ayant le privilège SUPER seront alors exécutées.
C’est par exemple utile dans une situation où une instance “slave” doit pouvoir être utilisée en lecture seule, tout en utilisant les mêmes comptes utilisateurs qui ont accès en écriture sur le “master”. La réplication en elle-même n’est pas impactée.
Tailles de bases et de tables
Pour lister la taille de chaque base :
mysql> SELECT table_schema "DB Name",
Round(Sum(data_length + index_length) / 1024 / 1024, 1) "DB Size in MB"
FROM information_schema.tables
GROUP BY table_schema;
Si on préfère avoir le détail entre taille de données et d’index :
mysql> SELECT table_schema "DB Name",
Round(Sum(data_length) / 1024 / 1024, 1) "Data (in MB)",
Round(Sum(index_length) / 1024 / 1024, 1) "Index (in MB)",
Round(Sum(data_length + index_length) / 1024 / 1024, 1) "Total size in MB"
FROM information_schema.tables
GROUP BY table_schema;
Pour lister la taille de toutes les tables de toutes les bases :
mysql> SELECT
table_schema as `Database`,
table_name AS `Table`,
round(((data_length + index_length) / 1024 / 1024), 2) `Size in MB`
FROM information_schema.TABLES
ORDER BY (data_length + index_length) DESC;
Lister les Indexes de toutes les tables
Pour lister tous les Indexes de toutes les tables et de toutes les bases :
select index_schema, index_name, group_concat(column_name order by seq_in_index) as index_columns, index_type, case non_unique when 1 then 'Not Unique' else 'Unique' end as is_unique, table_name from information_schema.statistics where table_schema not in ('information_schema', 'mysql', 'performance_schema', 'sys') group by index_schema, index_name, index_type, non_unique, table_name order by index_schema, index_name;
En version plus “lisible” pour mettre dans un script ou autre :
select index_schema,
index_name,
group_concat(column_name order by seq_in_index) as index_columns,
index_type,
case non_unique
when 1 then 'Not Unique'
else 'Unique'
end as is_unique,
table_name
from information_schema.statistics
where table_schema not in ('information_schema', 'mysql',
'performance_schema', 'sys')
group by index_schema,
index_name,
index_type,
non_unique,
table_name
order by index_schema,
index_name;
Lister la taille des tables, des indexs, et l’espace libre (vide) de chaques tables :
select ENGINE, TABLE_NAME,Round( DATA_LENGTH/1024/1024) as data_length , round(INDEX_LENGTH/1024/1024) as index_length, round(DATA_FREE/ 1024/1024) as data_free from information_schema.tables where DATA_FREE > 0;
Logs
Log de toutes les requêtes
On peut activer à chaud le logging de l’ensemble des requêtes :
mysql> SET GLOBAL GENERAL_LOG=ON;
Toutes les requêtes seront immédiatemment écrites dans le fichier DATADIR/HOSTNAME.log
.
Pour désactiver à chaud :
mysql> SET GLOBAL GENERAL_LOG=OFF;
Note : évidemment, sur un serveur de production il faut éviter d’activer cela plus de quelques secondes car cela impacte fortement la performance et cela va rapidement remplir l’espace disque.
Log des requêtes lentes (slow queries)
Pour débugger les applications lentes, c’est une fonctionnalité intéressante de trouver quelle requête est longue. Pour cela on peut spécifier par exemple que l’on veut avoir toutes les requêtes qui durent plus de 5 secondes :
[mysqld]
slow_query_log = 1
long_query_time = 5
slow_query_log_file = /var/log/mysql/mysql-slow.log
Ou à chaud :
mysql> SET GLOBAL slow_query_log=ON;
mysql> SET GLOBAL long_query_time=5;
mysql> SET GLOBAL slow_query_log_file= "/var/log/mysql/mysql-slow.log";
Il est également possible de remonter les requêtes n’utilisant pas d’index (qu’importe le temps qu’elle prennent pour s’exécuter), avec le paramètre booléen log_queries_not_using_indexes
mais nous déconseillons de le faire car cela ajoute de nombreuses requêtes inintéressantes en général.
long_query_time=0
Une astuce pour analyser l’ensemble des requêtes et de positionner long_query_time=0
mais il faut évidemment faire très attention car la taille du fichier de logs peut grossier très vite. C’est intéressant à faire pendant quelques secondes, ou exceptionnellement pendant quelques heures pour une analyse avec pt-query-digest
par exemple.
mysqldumpslow
Pour avoir une meilleure lecture des slow queries, on peut utiliser la commande mysqldumpslow :
# mysqldumpslow /var/log/mysql/mysql-slow.log
pt-query-digest
On peut aussi utilise la commande pt-query-digest
disponible dans le paquet percona-toolkit
afin d’avoir une analyse plus poussée des slow queries :
# pt-query-digest /var/log/mysql/mysql-slow.log
ATTENTION : Si le fichier de slow query est trop lourd, il n’est pas recommandé de l’analyser sur un serveur de production, car l’analyse peut nécessiter un cœur CPU à 100%, pendant quelques minutes.
Cet outil analyse le fichier mysql-slow.log
et fait un rapport général des requêtes qui prennent le plus de temps, par temps de réponse, pourcentage d’exécution, nombres d’appels et le type de requête.
Exemple :
# Profile
# Rank Query ID Response time Calls R/Call V/M Item
# ==== ================== ============== ===== ======= ===== =============
# 1 0x67A347A2812914DF 830.5323 62.8% 41 20.2569 87.06 SELECT foo_bar
# 2 0xC5C7772FD65D8C64 141.2796 10.7% 35 4.0366 0.07 SELECT lignes commandes lignes
# 3 0x6DEF8BB001FA8845 139.9141 10.6% 7 19.9877 0.04 SELECT commandes commandes_remboursements vendeurs_factures_remises paiements livraisons commandes_statut commandes_groupes acheteurs codes_promos adresses pays adresses pays vendeurs adresses pays
# 4 0xC8A44AAD56105646 41.5405 3.1% 17 2.4436 0.02 SELECT produits_tendances vendeurs declinaisons texteproduits produits_tendances
# 5 0xFD38100E607E1331 26.7823 2.0% 2 13.3912 5.07 SELECT OUTFILE commandes_etiquettes
# 6 0xFD7F7A9702EE1C3C 21.4709 1.6% 6 3.5785 0.00 UPDATE commandes
# 7 0xE63D0402530F63BE 9.5435 0.7% 4 2.3859 0.00 UPDATE commandes
# 8 0x4EEE742BBDA4EE47 8.9621 0.7% 2 4.4810 0.02 SELECT OUTFILE vendeurtracking
# 9 0xB28EA31EC4438F2F 8.6173 0.7% 2 4.3087 0.02 SELECT OUTFILE lignes
# 10 0xFFAD96608E3F459B 6.7241 0.5% 2 3.3620 0.38 SELECT produits_tendances vendeurs declinaisons texteproduits produits_tendances
Log des dead lock
Note : Seulement possible depuis MySQL 5.6 ou MariaDB 10.
[mysqld]
innodb_print_all_deadlocks = on
À chaud :
mysql> SET GLOBAL innodb_print_all_deadlocks=on;
Sauvegarde
Pour sauvegarder une base de données dans un seul fichier (sans et avec compression) :
$ mysqldump --hex-blob foo > foo.sql
$ mysqldump --hex-blob foo | gzip > foo.sql.gz
Note : l’option –hex-blob est importante pour ne pas risquer de perdre certains caractères dans les colonnes de type BINARY/BLOB/BIT
Il est aussi possible de sauvegarder une seule table avec mysqldump. Exemple avec la table bar de la base foo : $ mysqldump --hex-blob foo bar
Pour sauvegarder une base de données au format tab-separated data files, avec - pour chaque table - un fichier .sql contenant la structure de la table (CREATE TABLE) et un fichier .txt contenant les données brutes (réinjectable avec LOAD DATA INFILE
) :
# mkdir /tmp/foo && chown mysql:mysql /tmp/foo
$ mysqldump -T foo > /tmp/foo
Note : le répertoire de destination doit exister et mysqld doit avoir les droits d’écrire dedans.
On peut utiliser les options --fields-xxx
pour obtenir des fichiers au format CSV :
$ mysqldump --hex-blob --fields-enclosed-by='\"' --fields-terminated-by=',' -T /tmp/foo foo
Pour sauvegarder toutes les bases (exemples en mode classique et en mode -T
) :
$ mysqldump --opt --all-databases --events --hex-blob > all.sql
$ for db in $(mysql -P3308 -e "SHOW DATABASES" | egrep -v "^(Database|information_schema|performance_schema)"); do \
mkdir /backupmysql/$db && chown mysql:mysql /backupmysql/$db && \
mysqldump --events --hex-blob -T /backupmysql/$db $db; done
Pour sauvegarder uniquement certaines tables :
$ mysqldump --hex-blob foo TABLE0 [TABLE1…] > foo_tables.sql
Pour presque faire un --exclude
(qui manque cruellement à mysqldump):
$ mysql -B -N -e 'show databases' | \
perl -ne 'print unless /\b(?:phpmyadmin|mysql|information_schema)\b/' | \
xargs echo mysqldump --hex-blob -B
Et pour sauvegarder des tables correspondant à un motif (préfixe le plus souvent) :
$ mysqldump --hex-blob foo $(mysql foo -B --column-names=False -e "show tables like 'exemple_%'") > foo_motif.sql
Pour exclure les VIEWS d’un mysqldump :
EXCLUDE_VIEWS=$(echo "SELECT TABLE_SCHEMA, TABLE_NAME from INFORMATION_SCHEMA.VIEWS" | mysql information_schema | sed '/^TABLE_SCHEMA/d' | gawk {'print $1"." $2'} |tr '\n' ',')
mysqldump --opt --all-databases --force --ignore-table=$EXCLUDE_VIEWS --events --hex-blob > foo.sql
Pour dumper avec une condition particulière :
$ mysqldump -t foo bar --hex-blob --where="id='66666666'"
Ce qui permet de réinjecter des données résultantes d’un SELECT * FROM foo.bar WHERE id='66666666'
.
Il est évidement possible de faire toutes ces opérations sur une instance en précisant son port avec l’option --port
(valable pour mysqldump et mysql).
Pour obtenir une liste des utilisateurs mysql, on peut utiliser cette fonction (glanée sur serverfault) :
mygrants()
{
mysql -B -N -e "SELECT DISTINCT CONCAT(
'SHOW GRANTS FOR *, user, _'@'_, host, *;'
) AS query FROM mysql.user" | \
mysql | \
sed 's/\(GRANT .*\)/\1;/;s/^\(Grants for .*\)/## \1 ##/;/##/{x;p;x;}'
}
Pour avoir un dump avec un seul insert par ligne, pratique pour restaurer partiellement les bases mysql.user
et mysql.db
par exemple :
$ mysqldump --skip-extended-insert --events --hex-blob mysql > mysql.sql
Pour sauvegarder une grosse base de donnée en innodb (et uniquement avec ce moteur!), on peut ajouter l’argument --single-transaction
qui permet d’effectuer le dump dans une transaction et ainsi ne pas verrouiller les tables.
Pour sauvegarder uniquement la structure (pour toutes les bases d’un coup)
$ mysqldump --no-data --all-databases > schema.sql
Idem pour une seule base en particulier
$ mysqldump --no-data --databases DATABASE > DATABASE.schema.sql
Il existe aussi une autre manière de sauvegarder une instance MariaBD avec Mariabackup voir /HowtoMySQL/mariabackup.
Restauration
- Pour restaurer une base de données (sans et avec compression) :
$ mysqladmin create foo
$ mysql -o foo < foo.sql
$ gunzip < foo.sql.gz | mysql -o foo
- Pour restaurer uniquement une base inclus dans un dump complet de MySQL :
$ mysql -o foo < all.sql
Mais si venant d’un dump complet voir aussi : Restaurer une base depuis un dump complet
- Pour restaurer une table de type “tab-separated data files” (
mysqldump -T
) dans une base foo (exemples par défaut et avec des options--fields-xxx
) :
$ mysqlimport --default-character-set=utf8 foo /tmp/foo/bar.txt
$ mysqlimport --default-character-set=utf8 --fields-enclosed-by='\"' --fields-terminated-by=',' foo /tmp/foo/bar.txt
- Pour restaurer une base entière avec un dump de type “tab-separated data files” (exemples par défaut et avec des options
--fields-xxx
) :
db=test1
for file in *.sql; do
mysql $db <$file
done
grep CHARSET= *txt
for file in *.txt; do
tablename=$(basename $file .txt)
echo "LOAD DATA INFILE '$PWD/$file' INTO TABLE \`$tablename\`" CHARACTER SET utf8 | mysql $db
#echo "LOAD DATA INFILE '$PWD/$file' INTO TABLE \`$tablename\`" CHARACTER SET utf8 FIELDS TERMINATED BY ',' ENCLOSED BY '"' | mysql $db
done
Note 1 : Attention, l’utilisateur MySQL doit avoir le droit de lecture sur les fichiers .txt Se positionner dans un répertoire où mysql a les droits (mysqltmp - /home/mysqltmp par ex).
Note 2 : Si vous n’avez pas toutes vos tables en utf8 (par exemple du
CHARSET=LATIN1
), ce n’est pas bien… et vous devrez pour la peine adapter le script (en détectant le charset utilisé avec « file » si nécessaire)
Note 3 : Si erreur 150 : «Can’t create table» voir du côté des foreign keys :
$ mysql -e 'SHOW ENGINE INNODB STATUS\G;' | grep LATEST\ FOREIGN -A3
et ignorer les erreurs pour pouvoir recréer les tables :
$ mysql -e "set GLOBAL foreign_key_checks=OFF;"
- Si cela concerne plusieurs bases réparties dans différents sous-répertoires :
cd /home/mysqldump
for dir in *
do
echo "=======base $dir========="
db=$dir
mysql -e "create database ${dir};"
ls $dir/*.sql || continue
for file in $dir/*.sql
do
mysql $db <$file
done
grep CHARSET= $dir/*txt
ls $dir/*.txt || continue
for file in $dir/*.txt
do
tablename=$(basename $file .txt)
echo "LOAD DATA INFILE '$PWD/$file' INTO TABLE $tablename" CHARACTER SET utf8 | mysql $db
done
done
On peut également restaurer un dump foo.sql (ou tout script au format SQL) de façon interactive via la commande source
:
mysql> source foo.sql
Note 1 : il est nécessaire que MySQL ait les droits de lecture sur le fichier foo.sql
Note 2 : les sorties des requêtes sont renvoyées sur la sortie standard (au contraire de la restauration avec
mysql < foo.sql
)
Pour extraire une table précise d’un dump complet pour ensuite la restaurer
Exclure des tables de la restauration
Si vous disposez d’un dump complet dont vous souhaitez exclure des tables lors de la restauration, vous pouvez utilisez sed
pour retirer les lignes correspondantes (pour autant que les INSERT soient en mode mono-ligne) :
# sed '/INSERT INTO `\(table1\|table2\)`/d' dump-full.sql > dump-light.sql
Attention que ça ne supprime pas les instructions DROP TABLE
et CREATE TABLE
qui sont en général en multi-lignes donc plus difficiles à supprimer.
Monitoring
Pour surveiller un service MySQL en production, on pourra faire :
# mysqladmin status
# mysqladmin extended-status
# mysqladmin processlist
mytop
Pour avoir une version conviviale et dynamique des process en cours, on utilisera l’outil mytop.
# apt install mariadb-client-10.1 libconfig-inifiles-perl libterm-readkey-perl
Note : Pour Debian 7 et 8, c’était dans un package indépendant :
# aptitude install mytop
On édite le fichier /root/.mytop
ainsi :
user = debian-sys-maint
pass = PASSWORD
db = mysql
Reste plus qu’à lancer la commande mytop -s1
(pour un rafraichissement toutes les secondes) : on appréciera les raccourcis p
(mettre en pause l’affichage), o
(pour voir en 1er les requêtes les plus longues / inverse l’ordre de tri sur le temps des requêtes), k
(pour killer une requête… par exemple celle qui bloque toutes les autres), i
(pour masquer les requêtes en status sleep) et ?
(pour voir les autres raccourcis possibles).
L’outil mytop se sert principalement de la requête SHOW PROCESSLIST
que l’on pourra bien sûr lancer manuellement. Tout comme KILL
:
mysql> SHOW PROCESSLIST;
mysql> SHOW FULL PROCESSLIST;
mysql> KILL <id_requête>;
Pour lister les requêtes qui durent plus de 30 secondes pour pouvoir les tuer facilement :
# mysql -e 'select group_concat(concat("kill ",ID) separator ";") from information_schema.processlist where TIME>=30;'
Puis exécuter le résultat avec la commande mysql, exemple :
# mysql -e 'kill 1854;kill 1853;kill 1852;kill 1851;kill 1850;kill 1848'
Pour surveiller le moteur InnoDB, on utilisera la commande suivante :
mysql> SHOW ENGINE INNODB STATUS;
Pour lister tous les utilisateurs connectés, groupés par host (copié de blog.shlomoid.com) :
mysql> SELECT SUBSTRING_INDEX(host, ':', 1) AS host_short, GROUP_CONCAT(DISTINCT USER) AS users, COUNT(*)
FROM information_schema.processlist
GROUP BY host_short
ORDER BY COUNT(*), host_short;
Installation de mytop sur Debian9 avec MySQL 5.7 (Oracle)
Sur debian9 mytop fait partie du paquet mariadb-client, et n’est plus disponible en stand alone, cela pose un problème si on installe MySQL depuis les dépôts d’oracle.
Il faut prendre le paquet mytop de jessie et l’installer sur stretch :
# wget http://ftp.de.debian.org/debian/pool/main/m/mytop/mytop_1.9.1-2_all.deb
# dpkg -i mytop_1.9.1-2_all.deb
Il se peut qu’il y est des dépendances manquante dans ce cas il faut les installer :
# apt install libdbi-perl libdbd-mysql-perl libconfig-inifiles-perl
# apt --fix-broken install
log2mail
Afin d’être alerté en cas de souci, il est conseillé d’ajouter la configuration suivante au logiciel log2mail
:
file = /var/log/syslog
pattern = "is marked as crashed and should be repaired"
mailto = monitoring@example.com
template = /etc/log2mail/template.mysql
file = /var/log/syslog
pattern = "init function returned error"
mailto = monitoring@example.com
template = /etc/log2mail/template.mysql
file = /var/log/syslog
pattern = "try to repair it"
mailto = monitoring@example.com
template = /etc/log2mail/template.mysql
file = /var/log/syslog
pattern = "InnoDB: Fatal error"
mailto = monitoring@example.com
template = /etc/log2mail/template.mysql
file = /var/log/syslog
pattern = "as a STORAGE ENGINE failed"
mailto = monitoring@example.com
template = /etc/log2mail/template.mysql
Le fichier /etc/log2mail/template.mysql
contenant :
From: %f
To: %t
Subject: MySQL problem
Hello!
We have matched your pattern "%m" in "%F" %n times:
%l
Yours,
log2mail.
Note : il faut ajouter l’utilisateur
log2mail
dans le groupeadm
.
binlogs
Par défaut, MySQL stocke chaque requête en écriture dans des fichiers appelés binlogs.
Configuration
Par défaut les binlogs sont conservés sur une durée de 10 jours, avec des fichiers n’excédant pas 100 Mo :
[mysqld]
log_bin = /var/log/mysql/mysql-bin.log
expire_logs_days = 10
max_binlog_size = 100M
#binlog_do_db = include_database_name
#binlog_ignore_db = include_database_name
binlog_format = mixed
Note : depuis Debian 9, il faut explicitement préciser la directive
log_bin
pour activer les binlogs.
On peux modifier la valeur de la variable expire_logs_days
à chaud avec la commande suivante :
SET GLOBAL expire_logs_days=5;
Il ne faut pas oublié également de mettre à jour la valeur dans le fichier de configuration.
Format
http://dev.mysql.com/doc/refman/5.5/en/binary-log-setting.html
On peut choisir 3 types de format pour les binlogs :
- statement : les requêtes INSERT / UPDATE sont conservées
- row : les modifications de chaque ligne sont conservées (via une sorte de code « binaire » propre à MySQL)
- mixed : en mode statement… sauf dans certains cas où cela passe en mode row
Avantages et inconvénients :
Le mode statement est utile pour conserver en clair toutes les requêtes. Il permet aussi de meilleures performances quand des UPDATE contiennent des clauses WHERE qui modifient de nombreuses lignes. Pour de la réplication, il peut être non fiable car le résultat d’un UPDATE peut donner des résultats différents sur un serveur SLAVE. Cela peut aussi poser des soucis avec les transactions InnoDB.
Le mode row a l’inconvénient de rendre illisibles toutes les requêtes. Dans certains cas particuliers (UPDATE contiennent des clauses WHERE qui modifient de nombreuses lignes), il peut être moins performant. Il a l’avantage d’être plus fiable pour de la réplication.
Le mode mixed est un bon compromis pour de la réplication : il permet de voir la plupart des requêtes en clair, mais évite le problème de fiabilité en passant en mode row quand c’est nécessaire.
Informations
On peut savoir le dernier binlog écrit :
mysql> show master status;
+------------------+----------+--------------+------------------+
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB |
+------------------+----------+--------------+------------------+
| mysql-bin.020505 | 17736280 | | |
+------------------+----------+--------------+------------------+
1 row in set (0.00 sec)
On peut lister l’ensemble des binlogs vus par MySQL :
mysql> show binary logs;
+------------------+-----------+
| Log_name | File_size |
+------------------+-----------+
| mysql-bin.020437 | 18697341 |
| mysql-bin.020438 | 104858013 |
| mysql-bin.020439 | 104858274 |
| mysql-bin.020440 | 104863158 |
[…]
Et les visualiser d’un point de vue filesystem :
# ls -l /var/log/mysql/
-rw-rw---- 1 mysql adm 18697341 Nov 29 00:01 mysql-bin.020437
-rw-rw---- 1 mysql adm 104858013 Nov 29 09:41 mysql-bin.020438
-rw-rw---- 1 mysql adm 104858274 Nov 29 13:10 mysql-bin.020439
-rw-rw---- 1 mysql adm 104863158 Nov 29 17:28 mysql-bin.020440
[…]
-rw-rw---- 1 mysql adm 17863542 Dec 9 01:24 mysql-bin.020505
-rw-rw---- 1 mysql adm 2208 Dec 9 00:01 mysql-bin.index
Suppression
Si une réplication est en place, il faut vérifier sur le slave quel est le dernier binlog qu’il a récupéré/traité. Pour cela on fait SHOW SLAVE STATUS\G
, puis on note la ligne Relay_Master_Log_File:
. Elle indique le dernier binlog récupéré/traité. On peut donc supprimer sur le master, tout ceux d’avant. Par précaution, on peut en garder 10.
Exemple : Relay_Master_Log_File: mysql-bin.009628
→ sur le master BINARY LOGS TO 'mysql-bin.009618';
Pour supprimer les binlogs antérieurs à mysql-bin.00NNNN
:
mysql> PURGE BINARY LOGS TO 'mysql-bin.00NNNN';
ou par rapport à une date :
mysql> PURGE BINARY LOGS BEFORE "2011-12-07 00:00:00";
Si cela vient à se reproduire régulièrement, on peut baisser le nombre de jour durant lesquels les binlogs sont gardés avec la directive expire_logs_days.
On peut automatiser la tâche avec l’outil mysqlbinlogpurge dispo via mysql-utils. Il faudra aussi mysql-connector-python.
Exemple :
mysqlbinlogpurge --master=mysqladmin:PASSWORD@192.0.2.1:3306 --slaves=mysqladmin:PASSWORD@192.0.2.2:3306 --dry-run
Note : Il est nécessaire que le slave s’annonce avec –report-host et –report-port. Note : Il est nécessaire de ne pas mettre localhost ni 127.0.0.1 pour –master, mais l’adresse IP principale.
[mysqld]
report-host = 192.0.2.1
report-port = 3306
Désactivation
Ce procédure est à faire à froid (besoin d’un restart), on ajoutera l’option suivante dans la configuration :
[mysqld]
disable-log-bin
Puis on videra les binlogs manuellement depuis mysql :
RESET MASTER;
Lecture
On pourra lire en ligne de commande le contenu d’un binlog via la commande :
# mysqlbinlog /var/log/mysql/mysql-bin.001789 | less
- Note* : si vous obtenez une erreur
mysqlbinlog: unknown variable 'default-character-set=utf8'
c’est que la directivedefault-character-set
a été placée dans la configuration MySQL (/etc/mysql
ou.my.cnf
) dans la mauvaise section :[client]
au lieu de[mysql]
(ou[mysqldump]
). On peut aussi lancer la commande avec l’option--no-defaults
.
Replay
/!\ CES MANIPULATIONS SONT DANGEREUSES POUR VOS DONNÉES, BIEN SAVOIR CE QUE L’ON FAIT !
On pourra ainsi injecter le contenu d’un binlog dans une base… tout simplement avec une commande du type :
# mysqlbinlog /var/log/mysql/mysql-bin.001789 | mysql -P3307
À noter que si une partie des données étaient déjà présentes (cas d’un binlog corrompu lors d’incident lors d’une réplication), on pourra procéder ainsi :
# mysqlbinlog /var/log/mysql/mysql-bin.001789 > mysql-bin.001789.txt
# sed -i 's/INSERT INTO/INSERT IGNORE INTO/gi' mysql-bin.001789.txt
# cat mysql-bin.001789.txt | mysql -P3307
On peut aussi injecter les binlogs, sur une intervale de date et heure précise, en précisant le début et la fin comme ceci :
# mysqlbinlog --database foo --start-datetime='2018-12-27 16:44:57' --stop-datetime='2018-12-27 16:58:00' binlog.*|mysql -u user -p password
SET sql_log_bin = 0
On peut effectuer des requêtes SQL qui ne seront pas écrites dans le binlog. Pour cela on positionne la variable sql_log_bin à 0 et les requêtes interactives suivantes ne seront pas prises en compte dans le binlog (bien sûr, si l’on quitte le CLI MySQL, cela ne sera plus valable) :
mysql> SET sql_log_bin = 0;
Note : cela nécessite le droit MySQL SUPER
Multiples instances MySQL
Il est possible de faire fonctionner plusieurs instances de MySQL sur un serveur où chacune à ses propres données, sa propre configuration et son utilisateur dédié.
On préfère utiliser le port 3307 pour la première instance afin de ne pas confondre une configuration avec et sans instance.
Installation
Pour éviter l’héritage de paramètres issue de l’instance principale, il est nécessaire de commenter cette ligne dans le /etc/mysql/mariadb.conf.d/50-server.cnf
:
#user = mysql
Ainsi que rajouter ces lignes dans /etc/mysql/mariadb.conf.d/50-multi.cnf
:
[mysqld_multi]
user = mysqladmin
Désactiver l’instance par défaut (qui écoute sur le port 3306) si elle n’est pas nécessaire :
systemctl disable --now mariadb
Créer un utilisateur dédié pour l’instance :
instance=1
useradd mysqld${instance}
Créer les dossiers qui vont accueillir le datadir et les données temporaire avec les bons droits :
mkdir -vp /srv/mysqld_instances/mysqld${instance} /home/mysqld${instance}-tmp
touch /var/log/mysqld${instance}.log
chmod 755 /srv /srv/mysqld_instances
chown -R mysqld${instance}:mysqld${instance} /srv/mysqld_instances/mysqld${instance} /home/mysqld${instance}-tmp /var/log/mysqld${instance}.log
Ajouter ces lignes dans /etc/mysql/mariadb.conf.d/zzz_mysqld${instance}.cnf
:
echo "[mysqld${instance}]
user = mysqld${instance}
port = $((3306+${instance}))
tmpdir = /home/mysqld${instance}-tmp/
socket = /var/run/mysqld${instance}/mysqld${instance}.sock
pid-file = /var/run/mysqld${instance}/mysqld${instance}.pid
datadir = /srv/mysqld_instances/mysqld${instance}
log_error = /var/log/mysqld${instance}.log" \
> /etc/mysql/mariadb.conf.d/zzz_mysqld${instance}.cnf
L’ajout de ces directives permet de désactiver l’héritage des valeurs issue de l’instance principale :
skip-slave-start
log_bin = 0
slow_query_log = 0
Ajuster les permissions du fichier de configuration :
chmod 644 /etc/mysql/mariadb.conf.d/zzz_mysqld${instance}.cnf
Créer manuellement le datadir :
mysql_install_db --user=mysqld${instance} --datadir=/srv/mysqld_instances/mysqld${instance} --defaults-file=/etc/mysql/mariadb.conf.d/zzz_mysqld${instance}.cnf
chmod 700 /srv/mysqld_instances/mysqld${instance}
Démarrer une instance avec systemd
On créé une unité systemd multi-instances pour mysql dans /etc/systemd/system/mysqld@.service
[Unit]
Description=MySQL Multi Server for instance %i
After=syslog.target
After=network.target
[Service]
PIDFile=/var/run/mysqld%i/mysqld%i.pid
User=mysqld%i
Group=mysqld%i
Type=forking
ExecStart=/usr/bin/mysqld_multi start %i
ExecStop=/usr/bin/mysqld_multi stop %i
Restart=always
PrivateTmp=true
RuntimeDirectory=mysqld%i
[Install]
WantedBy=multi-user.target
On recharge le daemon systemd pour que l’unité soit prise en compte et on lance la nouvelle instance dont le “1” est une sorte d’alias de mysqld1 :
# systemctl daemon-reload
# systemctl start mysqld@1
On s’assure qu’elle fonctionne bien :
# systemctl status mysqld@1
● mysqld@1.service - MySQL Multi Server for instance 1
Loaded: loaded (/etc/systemd/system/mysqld@.service; disabled; vendor preset: enabled)
Active: active (running) since Tue 2020-08-18 15:49:27 CEST; 6min ago
Process: 16403 ExecStart=/usr/bin/mysqld_multi start 1 (code=exited, status=0/SUCCESS)
Main PID: 16408 (mysqld)
Tasks: 30 (limit: 4915)
Memory: 70.7M
CGroup: /system.slice/system-mysqld.slice/mysqld@1.service
└─16408 /usr/sbin/mysqld --defaults-group-suffix=1 --user=mysqld1 --port=3307 --tmpdir=/localhome/emorino/mysqld1-tmp --socket=/var/run/mysqld1/mysq
août 18 15:49:27 huit systemd[1]: Starting MySQL Multi Server for instance 1...
août 18 15:49:27 huit mysqld_multi[16403]: WARNING: Log file disabled. Maybe directory or file isn't writable?
août 18 15:49:27 huit mysqld_multi[16403]: [67B blob data]
août 18 15:49:27 huit mysqld_multi[16403]: Starting MariaDB servers
août 18 15:49:27 huit mysqld_multi[16403]: 2020-08-18 15:49:27 0 [Note] /usr/sbin/mysqld (mysqld 10.3.23-MariaDB-0+deb10u1) starting as process 16408 ...
août 18 15:49:27 huit systemd[1]: Started MySQL Multi Server for instance 1.
Pour stopper une instance, on évite la commande « mysqld_multi stop 1 » qui n’est pas assez fiable et peut laisser l’instance dans un état incorrect, difficile à récupérer.
On préfère passer la commande « shutdown » en interne qui devrait envoyer un signal SIGTERM (kill -15) au process mysqld :
# mysqladmin -P3307 shutdown
Avec l’unité systemd on peut stopper l’unité systemd en faisant :
# systemctl stop mysqld@1
Connexion aux instances et création du fichier ~/.my.cnf
Lors de la création de plusieurs instances MySQL, on préférera donner à chacune un mot de passe différents à l’utilisateur mysqladmin
On sécurise la nouvelle instance en définissant un mot de passe au compte mysqladmin :
# mysql -P3307 --socket=/var/run/mysqld1/mysqld1.sock -u root -p
On supprime l’utilisateur root pour le remplacer par l’utilisateur mysqladmin dont les requêtes sont identiques à une installation mono-instances.
Pour utiliser le multi client, on configurera le fichier ~/.my.cnf comme ceci :
[client1]
host = 127.0.0.1
port = 3307
user = mysqladmin
password = foo
[client2]
host = 127.0.0.1
port = 3308
user = mysqladmin
password = bar
Cette configuration permettra de se connecter à l’instance mysql avec l’option --defaults-group-suffix=$NUM
par exemple :
mysql --defaults-group-suffix=1
Attention : Si on utilise cela, il faut modifier vos scripts de mysqldump ou de création de base en conséquence.
Nettoyage
Si le mysqld principal n’est pas utilisé, on désactivera l’unité systemd comme ceci :
# systemctl stop mysql.service
# systemctl disable mysql.service
Pour géré les instances créer on utilisera l’unité systemd mysqld@.service
:
# systemctl status mysqld@1
# systemctl stop mysqld@1
# systemctl start mysqld@1
# systemctl enable mysqld@1
Administration
Pour voir le statut de l’instance n°1, logiquement nommée mysqld1 (GNR=1) et tournant sur le port 3307 :
# mysqld_multi report 1
Reporting MySQL servers
MySQL server from group: mysqld1 is running
Pour l’arrêter/redémarrer, même principe (attention, mysqld_multi
est peu verbeux) :
# ps auwx | grep 3307
# mysqladmin -P 3307 shutdown
# ps auwx | grep 3307
# mysqld_multi start 1
# ps auwx | grep 3307
Si on a configuré plusieurs instance dans le fichier .my.cnf, on peut choisir l’instance sur laquelle on veux se connecter en utilisant mysql –defaults-group-suffix=1 par exemple.
Plugins
MariaDB Audit Plugin
Documentation : https://mariadb.com/kb/en/mariadb-audit-plugin/
Ce plugin est fourni par MariaDB. Il permet d’avoir un log d’audit des connexions et opérations réalisées au niveau de MySQL/MariaDB.
Pour l’installer, le mieux est de le faire via le fichier de configuration (par exemple /etc/mysql/mariadb.conf.d/zzz-evolinux-custom.cnf
), dans la section adaptée :
[mariadb]
[…]
plugin_load_add = server_audit
On peut aussi le faire dynamiquement, mais cela ne sera pas persistent au prochain redémarrage :
mariadb> INSTALL SONAME 'server_audit';
Par défaut le plugin est inactif, on peut l’activer avec la variable globale server_audit_logging
(dans la config ou bien dynamiquement) :
[mariadb]
plugin_load_add = server_audit
server_audit_logging = ON
Par défaut il écrit ses logs dans un fichier DATA_DIR/server_audit.log
, mais il est conseillé de le placer avec les autres logs :
[mariadb]
plugin_load_add = server_audit
server_audit_file_path = /var/log/mysql/server_audit.log
server_audit_logging = ON
Il est possible de filtrer le type d’événements avec la variable server_audit_events
et de filtrer les utilisateurs avec les variables server_audit_incl_users
et server_audit_excl_users
. La documentation indique toutes les valeurs possibles.
La rotation des logs est automatique, mais personnalisable.
Activer la connexion via SSL/TLS à la base de données
Principe de fonctionnement
On génère une CA (clé privée et certificat) pour pouvoir signé une certificat serveur et client.
On ajoute le certificat serveur dans la configuration du serveur MySQL.
Le certificat client sert a se connecter au instances MySQL en SSL, soit avec PhpMyAdmin soit avec mysql-client, ou autres.
On par du principe qu’on l’on créer les clés / certificats dans /etc/mysql/ssl
Création de la CA
On créé la CA comme ceci :
# openssl genrsa 4096 > mysql-ca-key.pem
# openssl req -new -x509 -nodes -days 365000 -key mysql-ca-key.pem -out mysql-ca-cert.pem
Création du certificat SSL serveur
On créé le certificat serveur comme ceci, ne général on mets comme Common Name le hostname du serveur :
# openssl req -newkey rsa:2048 -days 365 -nodes -keyout mysql-server-key.pem -out mysql-server-req.pem
# openssl rsa -in mysql-server-key.pem -out mysql-server-key.pem
# openssl x509 -req -in mysql-server-req.pem -days 365 -CA mysql-ca-cert.pem -CAkey mysql-ca-key.pem -set_serial 01 -out mysql-server-cert.pem
Création du certificat SSL client
On créé le certificat client comme ceci, le Common Name est identique à celui du serveur :
# openssl req -newkey rsa:2048 -days 365 -nodes -keyout mysql-client-key.pem -out mysql-client-req.pem
# openssl rsa -in mysql-client-key.pem -out mysql-client-key.pem
# openssl x509 -req -in mysql-client-req.pem -days 365 -CA mysql-ca-cert.pem -CAkey mysql-ca-key.pem -set_serial 01 -out mysql-client-cert.pem
On vérifie la correspondance des certificats entre le certificat serveur et client comme ceci :
# openssl verify -CAfile mysql-ca-cert.pem mysql-server-cert.pem mysql-client-cert.pem
mysql-server-cert.pem: OK
mysql-client-cert.pem: OK
Installation du certificat SSL serveur sur une instance MySQL
Il faut possitionner les bons droits sur les certificats comme ceci :
# chown -Rv mysql:root /etc/mysql/ssl/
Puis on mets cette configuration dans /etc/mysql/mariadb.conf.d/zzz-evolinux-custom.cnf
# SSL
ssl = on
ssl-ca = /etc/mysql/ssl/mysql-ca-cert.pem
ssl-cert = /etc/mysql/ssl/mysql-server-cert.pem
ssl-key = /etc/mysql/ssl/mysql-server-key.pem
ssl-cipher = AES256-SHA
Un redémarrage de mysql / mariadb est necessaire :
# systemctl restart mysql.service
On peut vérifier que c’est bien pris en compte sur l’instance :
mysql> show variables like '%ssl%';
+--------------------+--------------------------------------+
| Variable_name | Value |
+--------------------+--------------------------------------+
| have_openssl | YES |
| have_ssl | YES |
| mysqlx_ssl_ca | |
| mysqlx_ssl_capath | |
| mysqlx_ssl_cert | |
| mysqlx_ssl_cipher | |
| mysqlx_ssl_crl | |
| mysqlx_ssl_crlpath | |
| mysqlx_ssl_key | |
| ssl_ca | /etc/mysql/ssl/mysql-ca-cert.pem |
| ssl_capath | |
| ssl_cert | /etc/mysql/ssl/mysql-server-cert.pem |
| ssl_cipher | AES256-SHA |
| ssl_crl | |
| ssl_crlpath | |
| ssl_fips_mode | OFF |
| ssl_key | /etc/mysql/ssl/mysql-server-key.pem |
+--------------------+--------------------------------------+
17 rows in set (0.00 sec)
Chiffrement de la base de données Transparent Data Encryption (TDE)
On peut chiffrer les bases et les tables avec la méthode Transparent Data Encryption (TDE), cela ne nécessite aucun changement au niveau applicatif pour se connecter à la base de donnée, d’où le terme « Transparent », il existe plusieurs plugins pour faire cela :
- File Key Management Encryption
- Le fichier de clé est stocké dans MariaDB.
- La bonne pratique est de la stocké dans un montage séparé.
- AWS Key Management Encryption Plugin
- La clé est créé et stocké sur AWS, c’est un bon choix si on a une base de données managé chez AWS.
Mise en place du chiffrement avec File Key Management Encryption
Dans une premier temps on doit créer un dossier où le fichier de clé sera stocké, puis on genère la clé :
$ mkdir -p /etc/mysql/encryption
$ echo "1;"$(openssl rand -hex 32) > /etc/mysql/encryption/keyfile
$ openssl rand -hex 128 > /etc/mysql/encryption/keyfile.key
$ openssl enc -aes-256-cbc -md sha1 -pass file:/etc/mysql/encryption/keyfile.key -in /etc/mysql/encryption/keyfile -out /etc/mysql/encryption/keyfile.enc
Puis on supprime la clé originale non chiffré :
rm -f /etc/mysql/encryption/keyfile
et on donne les bon droits au dossier / fichiers, on présume ici que l’instance tourne avec l’utilisateur mysql
:
$ chown -R mysql:mysql /etc/mysql
$ chmod -R 500 /etc/mysql
$ ls -lRt /etc/mysql
/etc/mysql:
total 0
dr-x------. 2 mysql mysql 44 Mar 22 17:45 encryption
/etc/mysql/encryption:
total 8
-r-x------. 1 mysql mysql 96 Mar 22 17:43 keyfile.enc
-r-x------. 1 mysql mysql 257 Mar 22 17:43 keyfile.key
Puis on rajoute ceci dans le fichier de configuration, soit dans la section [mariadb]
, soit dans la section de notre instance, par exemple, [mysqld1]
:
plugin_load_add = file_key_management
file_key_management_filename = /etc/mysql/encryption/keyfile.enc
file_key_management_filekey = FILE:/etc/mysql/encryption/keyfile.key
file_key_management_encryption_algorithm = AES_CBC
innodb_encrypt_tables = FORCE
innodb_encrypt_log = ON
innodb_encrypt_temporary_tables = ON
encrypt_tmp_disk_tables = ON
encrypt_tmp_files = ON
encrypt_binlog = ON
aria_encrypt_tables = ON
innodb_encryption_threads = 4
innodb_encryption_rotation_iops = 2000
- Dans la première section de la configuration :
plugin_load_add
: on charge le pluginfile_key_management
file_key_management_*
: on indique le chemin des clésfile_key_management_encryption_algorithm
: on defini l’algorithme de chiffrement, soitAES_CBC
si MariaDB utilise le binaireyaSSL
ouwolfSSL
, soitAES_CTR
mais ce dernier est disponible seulement si MariaDB utilise le binaireOpenSSL
- Dans la seconde section de la configuration :
innodb_encrypt_tables
: on force le chiffrement des bases / tables existantes.innodb_encrypt_log
: on chiffre les redo logsinnodb_encrypt_temporary_tables
: on chiffre les tables temporaires.
- Autres paramètres intérréssants :
encrypt_binlog
: on chiffre les logs binaires.encrypt_tmp_files
: on chiffre les fichiers temporaires.
Une fois la configuration en place, on redémarre MariaDB :
# systemctl restart mariadb
Puis on peut vérifier le chiffrement des bases / tables avec cette requête :
MariaDB [none]> SELECT CASE WHEN INSTR(NAME, '/') = 0
THEN '01-SYSTEM TABLESPACES'
ELSE CONCAT('02-', SUBSTR(NAME, 1, INSTR(NAME, '/')-1)) END
AS "Schema Name",
SUM(CASE WHEN ENCRYPTION_SCHEME > 0 THEN 1 ELSE 0 END) "Tables Encrypted",
SUM(CASE WHEN ENCRYPTION_SCHEME = 0 THEN 1 ELSE 0 END) "Tables Not Encrypted"
FROM information_schema.INNODB_TABLESPACES_ENCRYPTION
GROUP BY CASE WHEN INSTR(NAME, '/') = 0
THEN '01-SYSTEM TABLESPACES'
ELSE CONCAT('02-', SUBSTR(NAME, 1, INSTR(NAME, '/')-1)) END
ORDER BY 1;
;
+-----------------------+------------------+----------------------+
| Schema Name | Tables Encrypted | Tables Not Encrypted |
+-----------------------+------------------+----------------------+
| 01-SYSTEM TABLESPACES | 1 | 0 |
| 02-mysql | 4 | 0 |
+-----------------------+------------------+----------------------+
2 rows in set (0.002 sec)
Si on tente de lire un fichier .idb d’une table, voici ce qu’on obtient :
# cd /var/lib/mysql/mysql/
# strings transaction_registry.ibd | head -20
mPQ&
P.S|y
"h_S2$
m,uQ
I0$Y
AhZV
,tp"
Jb4\
TT v
))ok
hByc
- aG
GQQM
nLUZ$
Jb9q
)72B
`dDF'
f=Fb
4 PR
b?;(
Optimisation avancée
Voir /HowtoMySQL/Optimize.
Réplication MySQL
Voir /HowtoMySQL/Replication.
Mariabackup / Percona XtraBackup
Voir /HowtoMySQL/mariabackup.