rmongodb (como em 1.8.0) usa um driver MongoDB C legado que ainda não tem suporte total para o MongoDB 3.0. Em particular, ele não suportará o uso da nova autenticação padrão SCRAM-SHA-1 ou do mecanismo de armazenamento WiredTiger opcional.

Há um rmongodb problema no Github rastreando isso:Compatibilidade com a versão 3.0 do MongoDB .

Até rmongodb é atualizado, suas opções (em ordem do menos para o mais incômodo) incluem:

• 
  use um driver diferente que tenha suporte ao MongoDB 3.x (ou seja, RMongo 0.1.0 ou mais recente )
  
• 
  usar MongoDB 2.6
  
• 
  use o MongoDB 3.x, mas faça o downgrade para a autenticação MONGO-CR mais antiga (e não use o WiredTiger ou qualquer mecanismo de armazenamento alternativo)