Eu corri para isso também. Acontece que pode ser causado por duas coisas.
1. If the node you are adding already has its own dbData.
2. If you ran rs.initiate() on both nodes. It is only supposed to be run on the primary.
Para resolver isso, você precisará verificar em /etc/mongod.conf o atributo "dbPath" e mover ou remover todos os arquivos dessa pasta.
