sql >> Databáze >  >> NoSQL >> MongoDB

jak používat konfiguraci Spark-submit:sklenice, balíčky:v režimu clusteru?

Vaše používání --packages argument je špatný:

--packages com.mongodb.spark:hdfs:///user/liac/package/jars/mongo-spark-connector_2.11-1.0.0-assembly.jar:1.0.0

Musí být ve tvaru groupId:artifactId:version jak naznačuje výstup. Nelze s ním použít adresu URL.

Příklad používání mongoDB s jiskrou s vestavěnou podporou úložiště:

$SPARK_HOME/bin/spark-shell --packages org.mongodb.spark:mongo-spark-connector_2.11:1.0.0

Pokud trváte na použití vlastní nádoby, můžete ji poskytnout prostřednictvím --repositories . Hodnota argumentu je

Například ve vašem případě by to mohlo být

--repositories hdfs:///user/liac/package/jars/ --packages org.mongodb.spark:mongo-spark-connector_2.11:1.0.0



  1. Jak se dotazuji na odkazované objekty v MongoDB?

  2. jak zkontrolovat verzi instance redis?

  3. Redis, bude téma (pub/sub) vždy doručeno alespoň jednomu předplatiteli?

  4. MongoDB InvalidDocument:Nelze kódovat objekt