Existe um arquivo de log:/var/log/mongodb/mongod.log
No log encontrei o seguinte:
Failed to unlink socket file /tmp/mongodb-27017.sock errno: Operation not permitted
Muito provavelmente isso foi da versão anterior do MongoDB. Excluí o arquivo (rm -rf /tmp/mongodb-27017.sock ) e terminou a instalação:
apt-get install mongodb-org
Agora funciona. :-)
