sql >> Databáze >  >> RDS >> Database

Pochopení analýzy velkých dat

Velká data je užitečné pouze tehdy, když s tím můžeme něco udělat; jinak je to jen hromada odpadu. Námaha potřebná k kopání je však někdy jako snažit se najít jehlu v kupce sena. Smysluplný vzorec se objeví pouze po mnoha analýzách. Analytika uvedena do práce, snaží se analyzovat data s každým dostupným zařízením, včetně mozků. Tyto stroje nejsou nic jiného než nástroje doprovázené výpočetním výkonem k prozkoumání dat. Tento článek se pokouší podat stručný přehled technik používaných při analýze velkých dat.

Přehled

Před analýzou jsou data shromážděna z různých zdrojů. Musíte to zařídit tak, aby analytik mohl dělat svou práci a dodávat nějaké hmatatelné datové produkty užitečné pro obchodní proces organizace. Shromážděná data mohou být v různých stavech, jako jsou nestrukturovaná nezpracovaná data, polostrukturovaná data, strukturovaná data a tak dále. To jsou suroviny pro analýzu velkých dat. Poté začne složitý proces zkoumání odhalovat skryté vzorce, korelace a poznatky. Analytici využívají v procesu analýzy všechny dostupné nástroje a technologie a snaží se z toho získat nějakou hodnotu. Co tedy analytika dat znamená proces zkoumání velkého souboru dat (s jednou nebo více charakteristikami, které je označují jako velká data) a odhalování některých smysluplných informací.

Základní analýzy

Analytik se nejprve potřebuje ujistit, že data mají nějakou hodnotu, než použije přísné úsilí a zdroje k analýze dat. Někdy je jednoduchá vizualizace a statistika to, co potřebujete, abyste získali nějaké výsledky. Základní techniky jsou následující:

  • Základní sledování: Sledování velkého objemu dat v reálném čase je také jednou z cest, jak získat určitý přehled. Například pouhým sledováním meteorologických dat sestavovaných v průběhu let můžeme získat poměrně dost informací o typech klimatických podmínek v určité zeměpisné oblasti. Také informace o větru, vlhkosti, tlaku, teplotě a tak dále v reálném čase mohou vrhnout světlo na typ nadcházející bouře. Pokud spojíme každou tečku, může existovat řada parametrů s obrovskými informacemi. Dnes, pokud dokážeme využít trend všech tweetů na sociálních sítích, můžeme snadno získat představu o masách a o tom, co si myslí. Politologové to často dělají a to, co dělají, je pouze sledování streamovaných dat.
  • Plátky a kostičky: Tato běžná technika se týká segmentování velkého bloku dat na menší datové sady, aby bylo snadné je zobrazit a pochopit. Segmentace se provádí opakovaně, dokud není získána lépe zvládnutelná velikost. Konkrétní dotazy jsou vypalovány, aby získali určitý přehled nebo provedli nějaké výpočty, vytvořili grafickou reprezentaci nebo aplikovali statistický vzorec na menší soubory dat. To pomáhá zjistit určitou perspektivu pro analytika sedícího v moři dat. Dotazy lze klást pouze tehdy, když je perspektiva definitivní. Proto tato technika pomáhá při vytváření prostoru dotazů při práci s velkým objemem dat.
  • Detekce anomálií: Anomálie , zde odkazuje na náhlou změnu událostí, ke kterým dochází v prostředí, které může vyvolat různé efekty. Například náhlý pád Sensexu může mít řadu příčin, jako jsou náhlé společensko-politické změny, válka nebo přírodní katastrofa nebo mnoho dalších věcí. Ale pokud dokážeme detekovat anomálii, poskytuje to cenný pohled na pochopení a analýzu situace. Při řešení problému může pomoci i jednoduchý soubor statistik nebo pozorování.

Pokročilá analýza

Jak by mělo být zřejmé, analýza není vždy přímočará nebo jednoduchá. Ve skutečnosti to v mnoha případech závisí na složitosti dat a typ informací, které chceme extrahovat, určuje typ analytiky, kterou chceme do procesu zapojit. Pokročilá analytika využívá algoritmy pro komplexní analýzu různých formátů dat, jako je strojové učení, neuronové sítě, sofistikované statistické modely, textová analytika a pokročilé techniky dolování dat, aby z objemu dat získal nějaký smysluplný vzorec.

  • Textová analýza: Textová analytika je proces, kde jsou smysluplné informace odvozeny ze sbírky nestrukturovaných dat. Práce s nestrukturovanými daty je velkou součástí analýzy velkých dat; proto se k analýze a extrakci informací a nakonec k jejich přeměně na strukturované informace používají specifické techniky. Strukturované informace pak slouží k pohodlné další analýze. Techniky používané s textovou analýzou jsou odvozeny z počítačové lingvistiky, statistiky a dalších oborů počítačových věd.
  • Prediktivní modelování: Prediktivní modelování využívá řešení pro dolování dat a pravděpodobnost k predikci výsledků. Tato technika se aplikuje na strukturovaná i nestrukturovaná data k předpovědi výsledku. Prediktivní systém může například předpovídat počet spotřebitelů produktu, kteří přejdou k jinému produktu na základě některých dostupných atributů chování, nebo předvídat změnu v myšlení lidí sledováním trendu tweetování na sociálních sítích, což může mít rozhodující sociopolitický výsledek v politické kampani.
  • Použití statistických algoritmů pro dolování dat: Existuje mnoho dalších pokročilých technik předpovídání pomocí statistik a řešení pro dolování dat. Existují techniky, jako je shluková analýza, mikro segmentace, afinitní analýza a podobně.

Závěr

Tento článek samozřejmě pouze poškrábe povrch tématu, přesto možná dává ochutnat tomu, co by se mělo nazývat analytika velkých dat. Trend využívání velkých dat organizacemi rychle nabírá na síle ze všech dobrých i špatných důvodů. Výsledek je nepochybně otevřený k použití a zneužití a nemůžeme ho zastavit. Jsou vytvářeny nové nástroje a technologie, které pomáhají v procesu analýzy velkých dat. Možná je vědomí jedinou úlevou.


  1. Jak získat seznam dat mezi dvěma daty v dotazu na výběr mysql

  2. Jak získat další hodnotu sekvence SQL Server v Entity Framework?

  3. Rozdíl MySql mezi dvěma časovými razítky ve dnech?

  4. MySQL 'user_id' ve kterém je klauzule nejednoznačný problém