mysql_query()
não retornará false se a consulta for executada com sucesso, mesmo se não houver resultados. Tente usar mysql_num_rows()
em vez de:$ip = mysql_real_escape_string($_SERVER['REMOTE_ADDR']);
$query = "SELECT * FROM ip WHERE ip='$ip'";
$result = mysql_query($query);
if (mysql_num_rows($result) > 0) {
echo "Ip is already in database";
}
else {
echo "Ip is not in database";
}
A propósito, adicionei
mysql_real_escape_string em torno do REMOTE_ADDR var, você deve sempre higienizar sua entrada :) 
