A explicação mais provável é ficar sem espaço de endereço; por favor, poste todo o seu my.cnf.

Executar o sistema operacional de 32 bits em produção não é uma boa ideia.

No entanto, o que você deve fazer é:

1. Reproduza a falha na mesma versão do MySQL em uma máquina que não seja de produção
2. Verifique se você está usando uma compilação atual e com suporte adequado da Oracle. Se não estiver, instale um desses e reproduza o problema. Se você estiver executando o Redhat (ou similar), poderá usar os RPMs da Oracle. Eles também fornecem pacotes e binários de algumas outras distribuições em um arquivo tar.gz. Seu fornecedor de pacotes pode corrigir o MySQL com alguns patches desonestos. Eu nunca executo compilações OEM MySQL em produção.
3. Você parece estar executando 32 bits. Verifique se você não está ficando sem espaço de endereço.

Se você puder reproduzir o bug usando um padrão Oracle construído em um suportado sistema operacional, você não está ficando sem memória/espaço de endereço e não há falha de hardware, então você pode enviar o bug para a Oracle.

A melhor ideia é reproduzir o caso de teste com a quantidade mínima de dados/tamanho da tabela.