Você provavelmente está tentando executar mongoexport de dentro da concha do Mongo. Esse comando deve ser executado fora dele, a partir do shell de comando do sistema operacional.