Consulta OR SQL composta (consulta #1 com WITH) e (consulta #2) com excusões COUNT()

1. Assim como a mensagem de erro informa, geom precisa ser envolvido em uma função agregada se não estiver listado em GROUP BY . Você poderia simplesmente usar min() ...
2. Você tem sua lógica invertida. Ele precisa ser COUNT(*) = 1 OR ..

SELECT s.name, s.admin, st_area(geom)
FROM   vector.states s
WHERE  st_area(s.geom) > 0.01           -- state big enough ...
   OR NOT EXISTS (                      -- ... or there are no other counties
         SELECT 1 FROM vector.states s2
         WHERE  s2.admin = s.admin
         AND    s2.pk_column <> s.pk_column  -- exclude self-join
         )
ORDER BY s.admin;