Antes de tudo, verifique o status da instância com a qual você trabalha (pode ser necessário conectar-se à conta de administrador):
select status from v$instance;
Provavelmente você vai conseguir
STATUS
------------
MOUNTED
Na conta sys, tente concluir
ALTER DATABASE OPEN;
e verifique se foi concluído com sucesso. Caso contrário, compartilhe o resultado da saída e o log de alerta em sua pergunta.
