Krátká odpověď je, protože {"relationships.terminated"} není platný objekt json/bson. Objekt JSON se skládá z klíče a hodnoty a {"relationships.terminated"} má pouze klíč (nebo hodnotu, záleží na tom, jak to vypadá).
Naštěstí pro zrušení nastavení pole v Mongo nemusíte nastavovat skutečnou hodnotu pole, které chcete odstranit. Můžete použít libovolnou hodnotu (1 se běžně používá v dokumentech Mongo) bez ohledu na skutečnou hodnotu relationships.terminated :
db.users.update({"username":"joe"},{"$unset":{"relationships.terminated" : 1}});