Faça uma contagem das reservas de mesa com o número do quarto solicitante e o novo horário de reserva e veja se existe um registro na tabela entre o horário de reinício e o horário de reenvio.

Se entendi sua pergunta corretamente, qualquer uma das duas consultas abaixo deve funcionar.
select count(1) from reservations where roomname = 'XYZ' and '17-SEP-17' between resstart and resend;
ou
select count(1) from reservations where roomname = 'XYZ' and to_date('17-SEP-17') between resstart and resend;