sql >> Databáze >  >> NoSQL >> HBase

Top 10 funkcí Big Data Hadoop

V tomto tutoriálu Hadoop probereme 10 nejlepších funkcí Hadoopu. Pokud neznáte Apache Hadoop, můžete se podívat na náš Úvod Hadoop blog, kde získáte podrobné znalosti o frameworku Apache Hadoop.

V tomto blogu se budeme zabývat nejdůležitějšími funkcemi Hadoopu pro velká data, jako je odolnost proti chybám Hadoop, distribuované zpracování v Hadoopu, škálovatelnost Spolehlivost Vysoká dostupnost, ekonomická,  Flexibilita,  Datová lokalita v Hadoop.

Úvod Hadoop

Hadoop je open source softwarový framework, který podporuje distribuované ukládání a zpracování velkého množství datových sad. Díky svým funkcím je to nejvýkonnější nástroj pro velká data na trhu. Funkce jako odolnost proti chybám, spolehlivost, vysoká dostupnost atd.

Hadoop poskytuje-

  • HDFS  – Nejspolehlivější úložná vrstva na světě
  • MapReduce  – Distribuovaná vrstva zpracování
  • PŘÍZE  – Vrstva správy zdrojů

Důležité vlastnosti Big Data Hadoop

Apache Hadoop poskytuje tolik funkcí. Proberme tyto funkce Hadoop podrobně.

a. Open source

Jedná se o open source programovací rámec založený na Javě. Open source znamená, že je volně dostupný a dokonce můžeme změnit jeho zdrojový kód podle vašich požadavků.

b. Odolnost proti chybám

Hadoop řídí chyby procesem vytváření repliky. Když klient uloží soubor v HDFS, framework Hadoop rozdělí soubor do bloků. Poté klient distribuuje datové bloky mezi různé počítače v clusteru HDFS.

A pak vytvořte repliku každého bloku na jiných počítačích přítomných v clusteru. HDFS ve výchozím nastavení vytváří 3 kopie bloku na jiných počítačích přítomných v clusteru.

Pokud některý stroj v clusteru selže nebo selže kvůli nepříznivým podmínkám. Uživatel pak také může snadno přistupovat k těmto datům z jiných počítačů.

c. Distribuované zpracování

Hadoop ukládá obrovské množství dat distribuovaným způsobem v HDFS. Zpracovávat data paralelně na shluku uzlů.

d. Škálovatelnost  

Hadoop je platforma s otevřeným zdrojovým kódem. Díky tomu je platforma extrémně škálovatelná. Nové uzly lze tedy snadno přidávat bez jakýchkoli prostojů. Hadoop poskytuje horizontální škálovatelnost, takže do systému byl za chodu přidán nový uzel. V Apache hadoop běží aplikace na více než tisících uzlů.

e. Spolehlivost

Data jsou spolehlivě uložena na clusteru strojů i přes selhání stroje v důsledku replikace dat. Takže pokud některý z uzlů selže, můžeme také spolehlivě ukládat data.

f. Vysoká dostupnost

Díky více kopiím dat jsou data vysoce dostupná a přístupná i přes selhání hardwaru. Takže jakýkoli stroj selže, data lze získat z jiné cesty. Naučte se podrobně funkci Hadoop High Availability.

g. Ekonomický

Hadoop není příliš drahý, protože běží na clusteru komoditního hardwaru. Protože používáme levný komoditní hardware, nepotřebujeme utrácet velké množství peněz za rozšíření vašeho clusteru Hadoop.

i. Flexibilita

Hadoop je velmi flexibilní, pokud jde o schopnost pracovat se všemi druhy dat. Zabývá se strukturovanými, polostrukturovanými nebo nestrukturovanými.

j. Snadné použití

Není potřeba, aby se klient zabýval distribuovanými výpočty, o všechny věci se postará framework. Použití je tedy snadné.

k. Datová lokalita

Týká se schopnosti přesunout výpočet blízko místa, kde se v uzlu nacházejí skutečná data. Místo přesunu dat do výpočtu. To minimalizuje přetížení sítě a zvyšuje nadměrnou propustnost systému. Další informace oLokalita dat.

Závěr

Závěrem lze říci, že Hadoop je vysoce odolný vůči chybám. Spolehlivě ukládá obrovské množství dat i přes selhání hardwaru. Poskytuje vysokou škálovatelnost a vysokou dostupnost.

Hadoop je nákladově efektivní, protože běží na clusteru komoditního hardwaru. Hadoop pracuje na datové lokalitě, protože přesunutí výpočtu je levnější než přesun dat. Všechny tyto funkce Big data Hadoop jej činí výkonným pro zpracování velkých dat.


  1. Laravel 5.1 Session a Socket.IO + Redis – Odesílání upozornění přihlášeným (známým) uživatelům a skupině uživatelů

  2. Vytvoření databáze v Mongo:nelze se připojit, připojení se nezdařilo

  3. StackExchange.Redis jak se přihlásit k odběru více kanálů

  4. MongoDB:bezpodmínečné aktualizace?