Como verificar se o $ addToSet do Mongo era uma duplicata ou não

Pelo menos no shell você pode diferenciar se o documento foi modificado ou não (veja nModified ).

> db.test4.update({_id:2}, {$addToSet: {tags: "xyz" }})
WriteResult({ "nMatched" : 1, "nUpserted" : 0, "nModified" : 1 })

> db.test4.update({_id:2}, {$addToSet: {tags: "xyz" }})
WriteResult({ "nMatched" : 1, "nUpserted" : 0, "nModified" : 0 })

Atualização para o nó

Quando você usa collection.update(criteria, update[[, options], callback]); você pode recuperar a contagem de registros que foram modificados.

Do nó docs

Outra atualização

Parece que pelo menos na versão 1.4.3 o driver nativo do Mongo Node não está se comportando conforme documentado. É possível contornar usando a API em massa (introduzida no Mongo 2.6):

var col = db.collection('test');
// Initialize the Ordered Batch
var batch = col.initializeOrderedBulkOp();
batch.find({a: 2}).upsert().updateOne({"$addToSet": {"tags": "newTag"}});
// Execute the operations
batch.execute(function(err, result) {
  if (err) throw err;
  console.log("nUpserted: ", result.nUpserted); 
  console.log("nInserted: ", result.nInserted); 
  console.log("nModified: ", result.nModified); // <- will tell if a value was added or not
  db.close();
});