MongoDB
 sql >> Base de Dados >  >> NoSQL >> MongoDB

Como remover duplicatas com uma determinada condição no mongodb?


Primeiro você precisa atualizar seus documentos e alterar difficultyrating e beatmapset_id para número de ponto flutuante. Para fazer isso, você precisa percorrer cada documento usando o .forEach e atualize cada documento com "Bulk" operações para máxima eficiência.
var bulk = db.collection.initializeOrderedBulkOp();
var count = 0;
db.collection.find().forEach(function(doc) { 
    bulk.find({ '_id': doc._id }).update({ 
        '$set': { 
            'beatmapset_id': parseFloat(doc.beatmapset_id), 
            'difficultyrating': parseFloat(doc.difficultyrating) 
        } 
    });
    count++; 
    if(count % 100 == 0) {     
        bulk.execute();     
        bulk = db.collection.initializeOrderedBulkOp(); 
    } 
})

if(count > 0) { 
    bulk.execute(); 
}

Agora e desde A sintaxe "dropDups" para criação de índice foi "descontinuada" a partir do MongoDB 2.6 e removida no MongoDB 3.0. É assim que você pode remover os dups.

A ideia principal aqui é primeiro classificar seu documento por difficultyrating por ordem decrescente.
bulk  = db.collection.initializeUnorderedBulkOp();
count = 0;
db.collection.aggregate([
    { '$sort': { 'difficultyrating': -1 }}, 
    { '$group': { '_id': '$beatmapset_id', 'ids': { '$push': '$_id' }, 'count': { '$sum': 1 }}}, 
    { '$match': { 'count': { '$gt': 1 }}}
]).forEach(function(doc) {
    doc.ids.shift();
    bulk.find({'_id': { '$in': doc.ids }}).remove(); 
    count++; 
    if(count === 100) { 
        bulk.execute(); 
        bulk = db.collection.initializeUnorderedBulkOp();
    }
})

if(count !== 0) { 
    bulk.execute(); 
}

Esta resposta cobrir o tópico para mais detalhes.