Postgres UPDATE pomocí funkce okna hodnocení

Protože nemáte jedinečný klíč, použijte ctid :

update medias m
    set sort_order = new_sort_order
    from (
        select 
            ctid,
            owner_user_id, 
            sort_order, 
            row_number() over w as new_sort_order 
        from medias 
        where visible
        window w as (partition by owner_user_id order by sort_order asc, created_at asc)
    ) s
    where m.ctid = s.ctid;

Poznámka:row_number() může být lepší než rank() jako první nikdy nedává duplikáty.