O
VACUUM
comando pode ser o que você quer. Isso copiará os dados para um banco de dados temporário e usará isso para substituir o original.
Você usaria algo ao longo das linhas de:-
db.execSQL("VACUUM");
Observe os avisos sobre compatibilidade no seguinte:-
SQL como entendido pelo SQLite - VACUUM