Pokud chcete posledních 5 řádků seřazených vzestupně, potřebujete poddotaz:
SELECT *
FROM
( SELECT id, name, form_id, DATE(updated_at) AS updated_date, updated_at
FROM wp_frm_items
WHERE user_id = 11
AND form_id=9
ORDER BY updated_at DESC
LIMIT 5
) AS tmp
ORDER BY updated_at
Po přečtení otázky po desáté to může být (jen možná) to, co chcete. Seřadit podle data sestupně a poté seřadit podle času (ve stejném datu) vzestupně:
SELECT id, name, form_id, DATE(updated_at) AS updated_date
FROM wp_frm_items
WHERE user_id = 11
AND form_id=9
ORDER BY DATE(updated_at) DESC
, updated_at ASC