Verifique o uso da memória ou, mais provavelmente, o uso do disco (há espaço livre suficiente durante o processo?). Alterar uma tabela pode exigir uma grande quantidade de memória ou uma cópia em disco da sua tabela. Alterando o algoritmo alter de INPLACE para COPY pode ser ainda mais rápido no seu caso particular.

Você também pode estar acessando o innodb_online_alter_log_max_size limite, embora nesse caso, apenas a consulta deva falhar, não todo o servidor. É possível que a falha esteja ocorrendo devido ao ROLLBACK , e não a operação em si.

Por fim, algumas configurações de aplicativos ou servidores de hospedagem cancelam uma solicitação de consulta/http que está demorando muito, recomendo que você execute a mesma consulta no cliente de linha de comando para fins de teste.