A instrução IF só pode ser usada em funções armazenadas. Você pode fazer o que quiser com a função IF(), da seguinte forma:
SELECT IF(EXISTS(select * from tb_user where user_id=1), 'ok', 'not') as rul;
SELECT IF(EXISTS(select * from tb_user where user_id=1), 'ok', 'not') as rul;
