Konečně jsem našel odpověď na můj problém. Teoreticky je zeměpisná délka na ose x a zeměpisná šířka na ose y. Ale my jsme zvyklí spíše na zeměpisnou šířku-délku než na délku-šířku...Takže způsob, jakým jsem hledal, byl špatný
$near : [msg.lat, msg.lng]
Když jsem toto změnil na $near :[msg.lng, msg.lat] , začalo to fungovat i s 5KM... Takže objednat byl problém.