Je možné provést smazání pomocí klauzule HAVING?

Spíš ne. Klauzule have implikuje agregaci, což znamená, že už nemáte původní řádky.

Myslím, že chcete následující:

DELETE from UserPredictions
where UserId in (select UserId from UserPredictions group by UserId having count(*) < 500)