Copiado do comentário, pois aparentemente levou à solução:

Você está vazando algo além da memória, é meu palpite, talvez descritores de arquivos. Tente usar netstat ou lsof para ver se há muito mais conexões ou arquivos abertos do que o esperado.