Není divu, že to jde špatně. Máte velikost zásobníku 128 Mb na vlákno, ale celkově pouze 4096 Mb. To vám dává pouze dostatek prostoru pro použití 40 vláken a pak nemáte v hromadě žádné objekty.
Pravděpodobně nejlepší bude odkomentovat všechny velikosti prostoru a nechat JVM dělat svou věc automaticky.