De acordo com precedência de operador para MySQL
AND
tem precedência maior que OR
. Então
C1 AND C2 OR C3
será tratado como (C1 AND C2) OR C3
Para substituir a precedência padrão, você precisa usar parênteses como:
C1 AND (C2 OR C3)
No seu caso, a consulta correta é:
SELECT name, sex, fur, color
FROM dogs
WHERE sex='male' AND fur='short' AND (color='black' OR size="big");