A etapa 4 do assistente de configuração do RDS ("Configuração adicional") permite selecionar se o banco de dados é acessível publicamente ou não (se não for, o acesso é limitado à sua VPC, independentemente das configurações do grupo de segurança). Eu imagino que isso determina se o nome do host resolve para 54.* vs 172.* .

Sua primeira instância pode ter sido definida como privada - até onde posso dizer, isso não pode ser alterado após a inicialização. Eu tive um problema semelhante e a criação de uma nova instância definida para ser acessível publicamente resolveu para mim.