max() não funciona da maneira que você esperaria no SQL para Mongo. Isso talvez mude em versões futuras, mas a partir de agora, max,min devem ser usados com chaves indexadas principalmente internamente para fragmentação.
consulte http://www.mongodb.org/display/DOCS/min+and+max+Query+Specifiers
Infelizmente, por enquanto, a única maneira de obter o valor máximo é classificar a coleção desc nesse valor e pegar o primeiro.
transactions.find("id" => x).sort({"sellprice" => -1}).limit(1).first()
