Po nějakém dalším zkoumání jsem na svou otázku dostal odpověď sám. Místo přímého použití oidových proměnných nebo pomocí řetězců bych měl použít funkci BCON_OID. Následující dotaz pomáhá získat to, co jsem chtěl:
qry = BCON_NEW("$query", "{", "name", "{", "$in", "[",
BCON_OID(oid1), BCON_OID(oid2), BCON_OID(oid3), "]", "}", "}");