Há uma abordagem que permitirá que você faça isso atomicamente.

Você deve incorporar userIds em RoomUsers coleção. Algo como

{ "userIds" : [ 1, 2, 3, 4 ], "roomId" : 1 }

Agora você pode usar a consulta de atualização abaixo.

db.RoomUsers.update( { roomId : 1, "userIds": { $not: {$size: 5 } } }, { $push : { "userIds":5 } } )