O problema foi do mysql usando /var/tmp como tmpdir que não é grande o suficiente para copiar a tabela e criar os índices necessários. Eu consertei alterando a localização do tmpdir para um local que contém mais espaço.
primeiro eu criei o diretório /home/mysql/tmp
mkdir /home/mysql/tmp
então eu mudei o dono desse diretório para mysql:mysql
chown mysql:mysql /home/mysql/tmp
então eu parei o servidor mysql
service mysql stop
em seguida, iniciei novamente com o seguinte comando:
service mysql start --tmpdir=/home/mysql/tmp
