Narážíte na limit 32 MB pro řazení v paměti:
https://docs.mongodb.com/manual/reference/limits/#Sort-Operations
Přidejte index do pole řazení. To umožňuje MongoDB streamovat dokumenty v setříděném pořadí, spíše než se je snažit všechny načíst do paměti na serveru a třídit je v paměti před jejich odesláním klientovi.