Esta situação com dois clusters no Ubuntu pode acontecer ao atualizar para uma versão mais recente fornecendo uma versão mais recente do postgresql.
A atualização automática não remove o cluster antigo, presumivelmente por medo de apagar dados valiosos (o que é sábio porque algumas atualizações do postgres podem exigir trabalho humano para serem concluídas).
Se você sabe que deseja soltá-lo, basta executar:
sudo pg_dropcluster --stop 9.1 main
O diretório de dados correspondente será removido e
service postgresql
deixará de referir-se a 9.1 Neste ponto, o cluster 9.2 ainda usará a porta 5433, o que não é prático.
Para mudar para a porta padrão, edite
/etc/postgresql/9.2/main/postgresql.conf
e altere a linha port = 5433
para port = 5432
Em seguida, reinicie o PostgreSQL.
Finalmente para se livrar dos pacotes postgresql-9.1 veja o resultado de
dpkg -l 'postgresql*9.1*'