183.17.231.* 2020-11-03 13:49:20 |
大數(shù)據(jù)領(lǐng)域每年都會涌現(xiàn)出大量新的技術(shù),大數(shù)據(jù)技術(shù)可以挖掘出大規(guī)模數(shù)據(jù)中隱藏的信息和知識,為人類社會經(jīng)濟(jì)活動提供依據(jù),提高各領(lǐng)域的運(yùn)行效率,甚至提高整個社會經(jīng)濟(jì)的集約化程度。那么大數(shù)據(jù)計算包含哪些結(jié)構(gòu)層次
(1)統(tǒng)一數(shù)據(jù)基礎(chǔ)層
我們通過各種方式采集到的豐富數(shù)據(jù),在清洗、結(jié)構(gòu)化后進(jìn)入統(tǒng)一的ODS數(shù)據(jù)基礎(chǔ)層。
其主要功能包括:
-同步:結(jié)構(gòu)化數(shù)據(jù)增量或全量同步到數(shù)據(jù)中臺
-結(jié)構(gòu)化:非結(jié)構(gòu)化(日志)結(jié)構(gòu)化處理并存儲到數(shù)據(jù)中臺
累積歷史、清洗:根據(jù)數(shù)據(jù)業(yè)務(wù)需求及稽核和審計要求保存歷史數(shù)據(jù)、數(shù)據(jù)清洗
在權(quán)責(zé)方面,所有數(shù)據(jù)應(yīng)該在源頭統(tǒng)一,統(tǒng)一所有的數(shù)據(jù)基礎(chǔ)層,并由一個團(tuán)隊(duì)負(fù)責(zé)和管控,其他團(tuán)隊(duì)無權(quán)復(fù)制數(shù)據(jù)基礎(chǔ)層的數(shù)據(jù)。
(2)數(shù)據(jù)中間層
我們進(jìn)行數(shù)據(jù)建模研發(fā),并處理不因業(yè)務(wù)特別是組織架構(gòu)變動而輕易轉(zhuǎn)移的數(shù)據(jù)中間層。包括DWD明細(xì)數(shù)據(jù)中間層和DWS匯總數(shù)據(jù)中間層。
其主要功能包括:
-組合相關(guān)和相似數(shù)據(jù):采用明細(xì)寬表,復(fù)用關(guān)聯(lián)計算,減少數(shù)據(jù)掃描。
-公共指標(biāo)統(tǒng)一加工:基于OneData體系構(gòu)建命名規(guī)范、口徑一致和算法統(tǒng)一的統(tǒng)計指標(biāo),為上層數(shù)據(jù)產(chǎn)-品、應(yīng)用和服務(wù)提供公共指標(biāo);建立邏輯匯總寬表;
-建立一致性維度:建立一致數(shù)據(jù)分析維度表,降低數(shù)據(jù)計算口徑、算法不統(tǒng)一的風(fēng)險。
在權(quán)責(zé)方面,面向業(yè)務(wù)提供服務(wù)之前,由統(tǒng)一的團(tuán)隊(duì)負(fù)責(zé)從業(yè)務(wù)中抽象出源于業(yè)務(wù)而又不同于業(yè)務(wù)的數(shù)據(jù)域,再主導(dǎo)統(tǒng)一建設(shè)數(shù)據(jù)中間層,包括側(cè)重明細(xì)數(shù)據(jù)預(yù)JOIN等處理的明細(xì)中間層、側(cè)重面向應(yīng)用可復(fù)用維度和指標(biāo)的匯總數(shù)據(jù)中間層。特別是要由團(tuán)隊(duì)負(fù)責(zé)將核心業(yè)務(wù)數(shù)據(jù)統(tǒng)一加入數(shù)據(jù)中間層。允許部分業(yè)務(wù)數(shù)據(jù)有獨(dú)立的數(shù)據(jù)團(tuán)隊(duì)按照統(tǒng)一的OneModel體系方法論建設(shè)數(shù)據(jù)體系,ODS數(shù)據(jù)基礎(chǔ)層和DWD+DWS數(shù)據(jù)中間層因其統(tǒng)一性和可復(fù)用性,被稱為數(shù)據(jù)公共層。
(3)數(shù)據(jù)應(yīng)用層
在面向應(yīng)用提供服務(wù)時,業(yè)務(wù)團(tuán)隊(duì)或深入業(yè)務(wù)線的數(shù)據(jù)團(tuán)隊(duì)有極大的自由度,只要依賴數(shù)據(jù)公共層,即可自由的建設(shè)ADS數(shù)據(jù)應(yīng)用層。
其主要功能包括:
-個性化指標(biāo)加工:不公用性;復(fù)雜性(指數(shù)型、比值型、排名型指標(biāo))
-基于應(yīng)用的數(shù)據(jù)組裝:大寬表集市、橫表轉(zhuǎn)縱表、趨勢指標(biāo)串
大數(shù)據(jù)技術(shù)包含哪些結(jié)構(gòu)層次.中琛魔方大數(shù)據(jù)平臺(www.zcmorefun.com)表示不同功能的模塊組合成一個具有實(shí)際應(yīng)用價值的大數(shù)據(jù)分析平臺,實(shí)現(xiàn)對各種業(yè)務(wù)的前瞻性預(yù)測和分析,為用戶提供統(tǒng)一的決策分析支持,從而更好地突出平臺本身的價值。 |