Pro každou kategorii musíte v dílčím dotazu najít nejnovější datum, připojit tento dílčí dotaz ke své tabulce a seřadit podle 3 polí:
SELECT p.* FROM products p
JOIN
( SELECT category_id, MAX(date) as category_date FROM products
GROUP BY category_id ) pg
ON p.category_id = pg.category_id
ORDER BY pg.category_date DESC, p.category_id, p.date DESC