Zkuste toto:
ALTER TABLE mytabe ALTER COLUMN mycolumn DROP DEFAULT;
ALTER TABLE mytabe ALTER mycolumn TYPE bool USING CASE WHEN mycolumn=0 THEN FALSE ELSE TRUE END;
ALTER TABLE mytabe ALTER COLUMN mycolumn SET DEFAULT FALSE;
Nejprve musíte odstranit omezení (protože se nejedná o booleovskou hodnotu) a za druhé vaše CASE
příkaz byl syntakticky nesprávný.