Něco takového:
select *
from (
select userid,
letter,
dense_rank() over (partition by userid order by count(*) desc) as rnk
from letters
group by userid, letter
) t
where rnk <= 2
order by userid, rnk;
Všimněte si, že jsem nahradil user
s userid
protože používání vyhrazených slov pro sloupce je špatný zvyk.
Zde je SQLFiddle:http://sqlfiddle.com/#!12/ec3ec/1