Uspořádejte tak, že nepracujete na vypočítaných sloupcích, pokud je pořadí použito na více sloupců

Odstraňte závorky kolem sloupců pro group by :

Select *, CASE WHEN age>18 then 'Adult' ELSE 'MINOR' end  as category 
from student 
order by category, name;