原創|大數據新聞|編輯:況魚杰|2020-11-09 10:13:21.363|閱讀 345 次
概述:在大數據系統平臺當中,數據存儲、數據庫、數據倉庫是非常重要的概念,共同支持大數據存儲的實際需求。在大數據處理當中,大數據存儲這個環節,數據倉庫技術起到重要的作用。今天我們來對數據倉庫做一個簡單的介紹。
# 界面/圖表報表/文檔/IDE等千款熱門軟控件火熱銷售中 >>
相關鏈接:
本文部分內容選自MAB智庫百科
在大數據系統平臺當中,數據存儲、數據庫、數據倉庫是非常重要的概念,共同支持大數據存儲的實際需求。在大數據處理當中,大數據存儲這個環節,數據倉庫技術起到重要的作用。今天我們來對數據倉庫做一個簡單的介紹。(大數據認知 | 一篇文章讓你讀懂大數據)
數據倉庫顧名思義就是儲存數據的倉庫,也可以當做信息的中央存儲庫。通常,數據定期從事務系統、關系數據庫和其他來源流入數據倉庫。業務分析師、數據工程師、數據科學家和決策者通過商業智能 (BI) 工具、SQL 客戶端和其他分析應用程序訪問數據。
數據和分析已然成為各大企業保持競爭力所不可或缺的部分。企業用戶依靠報告、控制面板和分析工具從其數據中獲得洞察力、監控企業績效以及更明智地決策。數據倉庫通過高效地存儲數據以便最大限度地減少數據輸入和輸出 (I/O),并快速地同時向成千上萬的用戶提供查詢結果,為這些報告、控制面板和分析工具由數據倉庫提供支持。
數據倉庫的數據庫是整個數據倉庫環境的核心,是數據存放的地方和提供對數據檢索的支持。相對于操縱型數據庫來說其突出的特點是對海量數據的支持和快速的檢索技術。
數據抽取工具把數據從各種各樣的存儲方式中拿出來,進行必要的轉化、整理,再存放到數據倉庫內。對各種不同數據存儲方式的訪問能力是數據抽取工具的關鍵,應能生成COBOL程序、MVS作業控制語言(JCL)、UNIX腳本、和SQL語句等,以訪問不同的數據。數據轉換都包括,刪除對決策應用沒有意義的數據段;轉換到統一的數據名稱和定義;計算統計和衍生數據;給缺值數據賦給缺省值;把不同的數據定義方式統一。
元數據是描述數據倉庫內數據的結構和建立方法的數據。可將其按用途的不同分為兩類,技術元數據和商業元數據。
技術元數據是數據倉庫的設計和管理人員用于開發和日常管理數據倉庫是用的數據。包括:數據源信息;數據轉換的描述;數據倉庫內對象和數據結構的定義;數據清理和數據更新時用的規則;源數據到目的數據的映射;用戶訪問權限,數據備份歷史記錄,數據導入歷史記錄,信息發布歷史記錄等。
商業元數據從商業業務的角度描述了數據倉庫中的數據。包括:業務主題的描述,包含的數據、查詢、報表;
元數據為訪問數據倉庫提供了一個信息目錄(informationdirectory),這個目錄全面描述了數據倉庫中都有什么數據、這些數據怎么得到的、和怎么訪問這些數據。是數據倉庫運行和維護的中心,數據倉庫服務器利用他來存貯和更新數據,用戶通過他來了解和訪問數據。
為用戶訪問數據倉庫提供手段。有數據查詢和報表工具;應用開發工具;經理信息系統(EIS)工具;聯機分析處理(OLAP)工具;數據挖掘工具。
為了特定的應用目的或應用范圍,而從數據倉庫中獨立出來的一部分數據,也可稱為部門數據或主題數據(subjectarea)。在數據倉庫的實施過程中往往可以從一個部門的數據集市著手,以后再用幾個數據集市組成一個完整的數據倉庫。需要注意的就是再實施不同的數據集市時,同一含義的字段定義一定要相容,這樣再以后實施數據倉庫時才不會造成大麻煩。
數據倉庫的架構包含多個層。頂層是通過報告、分析和數據挖掘工具呈現結果的前端客戶端。中間層包括用于訪問和分析數據的分析引擎。架構的底層是加載和存儲數據的數據庫服務器。數據使用兩種不同類型的方式存儲:
數據倉庫可能包含多個數據庫。在每個數據庫中,數據整理進表和列中。在每個列中,您可以定義數據的說明,例如整數、數據字段或字符串。表可以在 Schema 內整理,您可以將其視為文件夾。提取的數據將存儲在 Schema 描述的各種表中。查詢工具使用 Schema 來確定要訪問和分析哪些數據表。
慧都大數據應用架構及流程
數據倉庫的優勢包括:
慧都大數據分析平臺「GetInsight®」升級發布,將基于企業管理駕駛艙、產品質量分析及預測、設備分析及預測等大數據模型的構建,助力企業由傳統運營模式向數字化、智能化的新模式轉型升級,抓住數據經濟的發展勢頭,提供管理效能,精準布局未來。了解更多,請聯系。
慧都大數據專業團隊為企業提供商業智能大數據平臺搭建,免費業務咨詢,定制開發等完整服務,快速、輕松、低成本將任何Hadoop集群從試用階段轉移到生產階段。
歡迎撥打慧都熱線023-68661681或咨詢慧都在線客服,我們有專業的大數據團隊,為您提供免費大數據相關業務咨詢!
本站文章除注明轉載外,均為本站原創或翻譯。歡迎任何形式的轉載,但請務必注明出處、不得修改原文相關鏈接,如果存在內容上的異議請郵件反饋至chenjj@fc6vip.cn