Não é o
GreaterThan
que está causando seu problema, é o fato de o filtro estar em um campo aninhado. Seu filtro em doc_type
funciona porque não está aninhado. Isso, aparentemente, é um problema com o mecanismo Catalyst no Spark, não com o conector Mongo. Isso afeta os pushdowns de predicados, por exemplo, Parquet também. Consulte as discussões a seguir no Spark Jira para obter mais detalhes.
Spark 19638
Spark 17636