Não é possível aninhar diretamente, caso contrário, você obterá um máximo agrupado. Em vez disso, aninhe as seleções.
select max(c) from (
select
count(*) c
group by
.. whatever ...
) x
select max(c) from (
select
count(*) c
group by
.. whatever ...
) x