Você não executa o mongoexport a partir do shell do mongo, você precisa executá-lo a partir do shell do sistema operacional (o mesmo que você executa o mongo)