Existe uma ferramenta online simples que pode fazer isso chamada sqlizer.io .
Você carrega um arquivo XLSX para ele, insere um nome de planilha e um intervalo de células, e ele gerará uma instrução CREATE TABLE e várias instruções INSERT para importar todos os seus dados para um banco de dados MySQL.
(Isenção de responsabilidade:ajudo a executar o SQLizer)