Supondo que a coluna seja chamada de 'id':
SELECT *
FROM tableA a
WHERE NOT EXISTS (SELECT 1 FROM tableB WHERE id = a.id)
ou
SELECT *
FROM TableA
WHERE id NOT IN (SELECT id FROM tableB)
Você provavelmente precisará testar para ver qual tem o melhor desempenho. MySQL pode ser um pouco imprevisível.