S vaším původním SQL jako základem (pokud chcete třídit nejprve podle id a poté podle sub_id):
$sql="select * from gallery group by sub_id order by id desc, subid desc limit 0,4";
Pokud není zamýšleno odstranit „duplikáty“, lze místo výše uvedeného použít následující sql:
$sql="select * from gallery order by id desc, subid desc limit 0,4";