_ representa qualquer caractere em uma expressão LIKE. É por isso que você retorna todos os valores. Você precisa escapar do caractere _.
Tente isto:
WHERE ref LIKE '%\_%';
Referências :
String Liteals on MySQL Reference Manual
Pergunta SO relacionada
