Se você deseja aplicar a cláusula WHERE ao resultado da UNION, deve incorporar a UNION na cláusula FROM:
SELECT *
FROM (SELECT * FROM TableA
UNION
SELECT * FROM TableB
) AS U
WHERE U.Col1 = ...
Estou assumindo que TableA e TableB são compatíveis com união. Você também pode aplicar uma cláusula WHERE a cada uma das instruções SELECT individuais na UNION, é claro.