Funciona para mariadb com --default-authentication-plugin=mysql_native_password , apenas o início do contêiner é muito lento.

[Edit] Aqui está um MWE, que funciona com diferentes versões do mysql (5 e 8) e o mais novo mariadb (10):

• https://github.com/boldt/docker-compose- mariadb-mysql-phpmyadmin