RANK lhe dá a classificação dentro de sua partição ordenada. Os empates são atribuídos à mesma classificação, com a(s) próxima(s) classificação(ões) ignorada(s). Portanto, se você tiver 3 itens na classificação 2, a próxima classificação listada será classificada como 5.
DENSE_RANK novamente fornece a classificação dentro de sua partição ordenada, mas as classificações são consecutivas. Nenhuma classificação é ignorada se houver classificações com vários itens.
Quanto aos nulos, depende da cláusula ORDER BY. Aqui está um script de teste simples com o qual você pode brincar para ver o que acontece:
with q as (
select 10 deptno, 'rrr' empname, 10000.00 sal from dual union all
select 11, 'nnn', 20000.00 from dual union all
select 11, 'mmm', 5000.00 from dual union all
select 12, 'kkk', 30000 from dual union all
select 10, 'fff', 40000 from dual union all
select 10, 'ddd', 40000 from dual union all
select 10, 'bbb', 50000 from dual union all
select 10, 'xxx', null from dual union all
select 10, 'ccc', 50000 from dual)
select empname, deptno, sal
, rank() over (partition by deptno order by sal nulls first) r
, dense_rank() over (partition by deptno order by sal nulls first) dr1
, dense_rank() over (partition by deptno order by sal nulls last) dr2
from q;
EMP DEPTNO SAL R DR1 DR2
--- ---------- ---------- ---------- ---------- ----------
xxx 10 1 1 4
rrr 10 10000 2 2 1
fff 10 40000 3 3 2
ddd 10 40000 3 3 2
ccc 10 50000 5 4 3
bbb 10 50000 5 4 3
mmm 11 5000 1 1 1
nnn 11 20000 2 2 2
kkk 12 30000 1 1 1
9 rows selected.
Aqui está um link para uma boa explicação e alguns exemplos.