Você pode criar uma nova tabela vazia, mover manualmente os dados em pedaços (INSERIR para novo, DELETE do antigo um certo número de linhas), descartar a tabela antiga e renomear a nova tabela. Essencialmente o que o MySQL faz, mas movendo os dados em vez de copiá-los, o que deve permitir que você use menos espaço.