Zkopírováno z komentáře, protože to zřejmě vedlo k řešení:
Hádám, že uniká něco jiného než paměť, možná deskriptory souborů. Zkuste použít netstat nebo lsof, abyste zjistili, zda existuje mnohem více otevřených připojení nebo souborů, než očekáváte.