Você está atualmente usando uma versão de desenvolvimento do MongoDB que tem alguns recursos habilitados que devem ser lançados com o MongoDB 4.0 como uma versão oficial. Observe que alguns recursos podem estar sujeitos a alterações antes do lançamento final, portanto, o código de produção deve estar ciente disso antes de se comprometer com ele.
Por que $convert falha aqui
Provavelmente, a melhor maneira de explicar isso é examinar sua amostra alterada, mas substituindo por
ObjectId
valores para _id
e "strings" para aqueles sob as matrizes:{
"_id" : ObjectId("5afe5763419503c46544e272"),
"name" : "cinco",
"children" : [ { "_id" : "5afe5763419503c46544e273" } ]
},
{
"_id" : ObjectId("5afe5763419503c46544e273"),
"name" : "quatro",
"ancestors" : [ { "_id" : "5afe5763419503c46544e272" } ],
"children" : [ { "_id" : "5afe5763419503c46544e277" } ]
},
{
"_id" : ObjectId("5afe5763419503c46544e274"),
"name" : "seis",
"children" : [ { "_id" : "5afe5763419503c46544e277" } ]
},
{
"_id" : ObjectId("5afe5763419503c46544e275"),
"name" : "um",
"children" : [ { "_id" : "5afe5763419503c46544e276" } ]
}
{
"_id" : ObjectId("5afe5763419503c46544e276"),
"name" : "dois",
"ancestors" : [ { "_id" : "5afe5763419503c46544e275" } ],
"children" : [ { "_id" : "5afe5763419503c46544e277" } ]
},
{
"_id" : ObjectId("5afe5763419503c46544e277"),
"name" : "três",
"ancestors" : [
{ "_id" : "5afe5763419503c46544e273" },
{ "_id" : "5afe5763419503c46544e274" },
{ "_id" : "5afe5763419503c46544e276" }
]
},
{
"_id" : ObjectId("5afe5764419503c46544e278"),
"name" : "sete",
"children" : [ { "_id" : "5afe5763419503c46544e272" } ]
}
Isso deve fornecer uma simulação geral do que você estava tentando trabalhar.
O que você tentou foi converter o
_id
value em uma "string" via $project
antes de inserir o $graphLookup
etapa. A razão pela qual isso falha é enquanto você fez um $project
inicial "dentro" deste pipeline, o problema é que a fonte para $graphLookup
no "from"
ainda é a coleção inalterada e, portanto, você não obtém os detalhes corretos nas iterações de "pesquisa" subsequentes. db.strcoll.aggregate([
{ "$match": { "name": "três" } },
{ "$addFields": {
"_id": { "$toString": "$_id" }
}},
{ "$graphLookup": {
"from": "strcoll",
"startWith": "$ancestors._id",
"connectFromField": "ancestors._id",
"connectToField": "_id",
"as": "ANCESTORS_FROM_BEGINNING"
}},
{ "$project": {
"name": 1,
"ANCESTORS_FROM_BEGINNING": "$ANCESTORS_FROM_BEGINNING._id"
}}
])
Não corresponde na "pesquisa", portanto:
{
"_id" : "5afe5763419503c46544e277",
"name" : "três",
"ANCESTORS_FROM_BEGINNING" : [ ]
}
"Corrigindo" o problema
No entanto, esse é o problema central e não uma falha de
$convert
ou é aliases em si. Para fazer isso realmente funcionar, podemos criar uma "visualização" que se apresenta como uma coleção para fins de entrada. Farei isso ao contrário e converterei as "strings" para
ObjectId
via $toObjectId
:db.createView("idview","strcoll",[
{ "$addFields": {
"ancestors": {
"$ifNull": [
{ "$map": {
"input": "$ancestors",
"in": { "_id": { "$toObjectId": "$$this._id" } }
}},
"$$REMOVE"
]
},
"children": {
"$ifNull": [
{ "$map": {
"input": "$children",
"in": { "_id": { "$toObjectId": "$$this._id" } }
}},
"$$REMOVE"
]
}
}}
])
No entanto, usar a "exibição" significa que os dados são vistos consistentemente com os valores convertidos. Portanto, a seguinte agregação usando a visualização:
db.idview.aggregate([
{ "$match": { "name": "três" } },
{ "$graphLookup": {
"from": "idview",
"startWith": "$ancestors._id",
"connectFromField": "ancestors._id",
"connectToField": "_id",
"as": "ANCESTORS_FROM_BEGINNING"
}},
{ "$project": {
"name": 1,
"ANCESTORS_FROM_BEGINNING": "$ANCESTORS_FROM_BEGINNING._id"
}}
])
Retorna a saída esperada:
{
"_id" : ObjectId("5afe5763419503c46544e277"),
"name" : "três",
"ANCESTORS_FROM_BEGINNING" : [
ObjectId("5afe5763419503c46544e275"),
ObjectId("5afe5763419503c46544e273"),
ObjectId("5afe5763419503c46544e274"),
ObjectId("5afe5763419503c46544e276"),
ObjectId("5afe5763419503c46544e272")
]
}
Corrigindo o problema
Com tudo isso dito, o verdadeiro problema aqui é que você tem alguns dados que "parecem" um
ObjectId
valor e é de fato válido como um ObjectId
, no entanto, foi registrado como uma "string". A questão básica para que tudo funcione como deveria é que os dois "tipos" não são os mesmos e isso resulta em uma incompatibilidade de igualdade à medida que as "junções" são tentadas. Portanto, a correção real ainda é a mesma de sempre, que é passar pelos dados e corrigi-los para que as "strings" também sejam
ObjectId
valores. Estes, então, corresponderão ao _id
chaves às quais eles devem se referir, e você está economizando uma quantidade considerável de espaço de armazenamento, pois um ObjectId
ocupa muito menos espaço para armazenar do que sua representação de string em caracteres hexadecimais. Usando os métodos do MongoDB 4.0, você "poderia" realmente use o
"$toObjectId"
para escrever uma nova coleção, da mesma forma que criamos a "view" anteriormente:db.strcoll.aggregate([
{ "$addFields": {
"ancestors": {
"$ifNull": [
{ "$map": {
"input": "$ancestors",
"in": { "_id": { "$toObjectId": "$$this._id" } }
}},
"$$REMOVE"
]
},
"children": {
"$ifNull": [
{ "$map": {
"input": "$children",
"in": { "_id": { "$toObjectId": "$$this._id" } }
}},
"$$REMOVE"
]
}
}}
{ "$out": "fixedcol" }
])
Ou, claro, onde você "precisa" manter a mesma coleção, o tradicional "loop e atualização" permanece o mesmo que sempre foi exigido:
var updates = [];
db.strcoll.find().forEach(doc => {
var update = { '$set': {} };
if ( doc.hasOwnProperty('children') )
update.$set.children = doc.children.map(e => ({ _id: new ObjectId(e._id) }));
if ( doc.hasOwnProperty('ancestors') )
update.$set.ancestors = doc.ancestors.map(e => ({ _id: new ObjectId(e._id) }));
updates.push({
"updateOne": {
"filter": { "_id": doc._id },
update
}
});
if ( updates.length > 1000 ) {
db.strcoll.bulkWrite(updates);
updates = [];
}
})
if ( updates.length > 0 ) {
db.strcoll.bulkWrite(updates);
updates = [];
}
O que na verdade é um pouco de "marreta" devido à substituição de toda a matriz de uma única vez. Não é uma ótima ideia para um ambiente de produção, mas é suficiente como demonstração para os propósitos deste exercício.
Conclusão
Portanto, embora o MongoDB 4.0 adicione esses recursos de "casting" que podem realmente ser muito úteis, sua intenção real não é realmente para casos como esse. Eles são, de fato, muito mais úteis, conforme demonstrado na "conversão" para uma nova coleção usando um pipeline de agregação do que a maioria dos outros usos possíveis.
Enquanto "podemos" crie uma "view" que transforme os tipos de dados para permitir coisas como
$lookup
e $graphLookup
para trabalhar onde os dados de coleta reais diferem, isso realmente é apenas um "band-aid" sobre o problema real, pois os tipos de dados realmente não devem ser diferentes e devem, de fato, ser convertidos permanentemente. Usar uma "visualização" significa, na verdade, que o pipeline de agregação para construção precisa executar todas com eficiência vez que a "coleção" (na verdade, uma "visualização") é acessada, o que cria uma sobrecarga real.
Evitar sobrecarga geralmente é uma meta de design, portanto, corrigir esses erros de armazenamento de dados é imperativo para obter desempenho real de seu aplicativo, em vez de apenas trabalhar com "força bruta" que apenas retardará as coisas.
Um script de "conversão" muito mais seguro que aplicava atualizações "combinadas" a cada elemento da matriz. O código aqui requer o NodeJS v10.xe uma versão mais recente do driver de nó MongoDB 3.1.x:
const { MongoClient, ObjectID: ObjectId } = require('mongodb');
const EJSON = require('mongodb-extended-json');
const uri = 'mongodb://localhost/';
const log = data => console.log(EJSON.stringify(data, undefined, 2));
(async function() {
try {
const client = await MongoClient.connect(uri);
let db = client.db('test');
let coll = db.collection('strcoll');
let fields = ["ancestors", "children"];
let cursor = coll.find({
$or: fields.map(f => ({ [`${f}._id`]: { "$type": "string" } }))
}).project(fields.reduce((o,f) => ({ ...o, [f]: 1 }),{}));
let batch = [];
for await ( let { _id, ...doc } of cursor ) {
let $set = {};
let arrayFilters = [];
for ( const f of fields ) {
if ( doc.hasOwnProperty(f) ) {
$set = { ...$set,
...doc[f].reduce((o,{ _id },i) =>
({ ...o, [`${f}.$[${f.substr(0,1)}${i}]._id`]: ObjectId(_id) }),
{})
};
arrayFilters = [ ...arrayFilters,
...doc[f].map(({ _id },i) =>
({ [`${f.substr(0,1)}${i}._id`]: _id }))
];
}
}
if (arrayFilters.length > 0)
batch = [ ...batch,
{ updateOne: { filter: { _id }, update: { $set }, arrayFilters } }
];
if ( batch.length > 1000 ) {
let result = await coll.bulkWrite(batch);
batch = [];
}
}
if ( batch.length > 0 ) {
log({ batch });
let result = await coll.bulkWrite(batch);
log({ result });
}
await client.close();
} catch(e) {
console.error(e)
} finally {
process.exit()
}
})()
Produz e executa operações em massa como estas para os sete documentos:
{
"updateOne": {
"filter": {
"_id": {
"$oid": "5afe5763419503c46544e272"
}
},
"update": {
"$set": {
"children.$[c0]._id": {
"$oid": "5afe5763419503c46544e273"
}
}
},
"arrayFilters": [
{
"c0._id": "5afe5763419503c46544e273"
}
]
}
},
{
"updateOne": {
"filter": {
"_id": {
"$oid": "5afe5763419503c46544e273"
}
},
"update": {
"$set": {
"ancestors.$[a0]._id": {
"$oid": "5afe5763419503c46544e272"
},
"children.$[c0]._id": {
"$oid": "5afe5763419503c46544e277"
}
}
},
"arrayFilters": [
{
"a0._id": "5afe5763419503c46544e272"
},
{
"c0._id": "5afe5763419503c46544e277"
}
]
}
},
{
"updateOne": {
"filter": {
"_id": {
"$oid": "5afe5763419503c46544e274"
}
},
"update": {
"$set": {
"children.$[c0]._id": {
"$oid": "5afe5763419503c46544e277"
}
}
},
"arrayFilters": [
{
"c0._id": "5afe5763419503c46544e277"
}
]
}
},
{
"updateOne": {
"filter": {
"_id": {
"$oid": "5afe5763419503c46544e275"
}
},
"update": {
"$set": {
"children.$[c0]._id": {
"$oid": "5afe5763419503c46544e276"
}
}
},
"arrayFilters": [
{
"c0._id": "5afe5763419503c46544e276"
}
]
}
},
{
"updateOne": {
"filter": {
"_id": {
"$oid": "5afe5763419503c46544e276"
}
},
"update": {
"$set": {
"ancestors.$[a0]._id": {
"$oid": "5afe5763419503c46544e275"
},
"children.$[c0]._id": {
"$oid": "5afe5763419503c46544e277"
}
}
},
"arrayFilters": [
{
"a0._id": "5afe5763419503c46544e275"
},
{
"c0._id": "5afe5763419503c46544e277"
}
]
}
},
{
"updateOne": {
"filter": {
"_id": {
"$oid": "5afe5763419503c46544e277"
}
},
"update": {
"$set": {
"ancestors.$[a0]._id": {
"$oid": "5afe5763419503c46544e273"
},
"ancestors.$[a1]._id": {
"$oid": "5afe5763419503c46544e274"
},
"ancestors.$[a2]._id": {
"$oid": "5afe5763419503c46544e276"
}
}
},
"arrayFilters": [
{
"a0._id": "5afe5763419503c46544e273"
},
{
"a1._id": "5afe5763419503c46544e274"
},
{
"a2._id": "5afe5763419503c46544e276"
}
]
}
},
{
"updateOne": {
"filter": {
"_id": {
"$oid": "5afe5764419503c46544e278"
}
},
"update": {
"$set": {
"children.$[c0]._id": {
"$oid": "5afe5763419503c46544e272"
}
}
},
"arrayFilters": [
{
"c0._id": "5afe5763419503c46544e272"
}
]
}
}