Se você tiver 2 nós, isso não significa que os dados são particionados em 2 partes. Ele pode ser particionado para, digamos, 10 pedaços e 6 deles estão no servidor 1 e o restante está no servidor 2.

Quando você adiciona outro servidor, o MongoDB é capaz de redistribuir esses pedaços entre os nós da nova configuração

Você pode ler mais nos documentos oficiais:

• 
  http://www.mongodb.org/display/DOCS/Sharding+Introduction
  
• 
  http://www.mongodb.org/display/DOCS/Choosing +a+Fragmento+Chave