Za předpokladu, že se sloupec jmenuje 'id', buď:
SELECT *
FROM tableA a
WHERE NOT EXISTS (SELECT 1 FROM tableB WHERE id = a.id)
nebo
SELECT *
FROM TableA
WHERE id NOT IN (SELECT id FROM tableB)
Pravděpodobně budete muset vyzkoušet, která z nich funguje nejlépe. MySQL může být trochu nepředvídatelné.