Você deve aproveitar o grupo por consulta. Um blog antigo que escrevi é Entendendo os bys do grupo
Mas basicamente isso deve funcionar:
select distinct ip, count(id) from users group by IP having count(id) > 1
Isso retornará todos os endereços IP com uma contagem> 1