De acordo com precedência de operador para MySQL
AND tem precedência maior que OR . Então
C1 AND C2 OR C3 será tratado como (C1 AND C2) OR C3 Para substituir a precedência padrão, você precisa usar parênteses como:
C1 AND (C2 OR C3) No seu caso, a consulta correta é:
SELECT name, sex, fur, color
FROM dogs
WHERE sex='male' AND fur='short' AND (color='black' OR size="big");