Infelizmente, não consegui que funcionasse com BasicDBObjects aninhados.
Finalmente eu estava usando a notação de ponto que funciona bem:
// This query fetches the files I need
BasicDBObject query = new BasicDBObject("metadata.target_field", "abcdefg"));
List<GridFSDBFile> files = gridFs.find(query);
