從本篇文章開始,筆者打算寫一個系列的《clickhouse專欄》,其全稱是Click Stream,Data WareHouse,簡稱ClickHouse。從其全稱中的“Data WareHouse”,我們可以看出clickhouse的定位是數據倉庫。那麼“數據倉庫”和“數據庫”有什麼區别呢?理解這點這很重要,理解了二者的區别,你就可以正确地将clickhouse用到其合适的應用場景。
- 一、OLTP與OLAP
- 二、數據倉庫的特點
- 三、數據庫與數據倉庫結合使用
一、OLTP與OLAP
在理解"數據倉庫"與“數據庫”的區别之前,我們需要先說明兩個術語,即:OLTP與OLAP。
- OLTP(on-line transaction processing)聯機事務處理:通常指的是面向傳統應用服務的關系型數據庫,用戶通過web界面操作實時“增删改查”數據庫裡面的數據。包含核心的基本的事務處理邏輯,用戶對于性能的要求很高,用戶點擊界面之後,響應時間最低要求在5秒之内(通常3秒以内),同時需要支持比較高的用戶并發度。OLTP的數據操作通常面向的是1條或幾條少量數據,比如:用戶下單操作該用戶的購物車、支付記錄、積分記錄等少量數據。
- OLAP(On-Line Analytical Processing)聯機分析處理:面向的應用主要是執行複雜的數據分析操作,側重于決策支撐,通過圖形報表展現直觀易動的數據分析結果。對于響應時間的要求相對寬松,數據分析過程通常不支持用戶高并發,但數據分析的結果支持用戶的高并發訪問。OLAP面向的通常是批量數據操作,數據按批次進行導入、分析等操作,OLAP系統通常結合ETL(抽取(extract)、轉換(transform)、加載(load))系統進行使用。
理解上面的兩個數據,剩下的就簡單多了,數據庫通常面向OLTP操作,數據倉庫通常面向OLAP操作。OLTP側重于保存及變更數據的當前狀态,而數據倉庫側重于保存數據的曆史存檔。比如:用戶銀行轉賬,OLTP數據庫側重于管理用戶當前賬戶裡的剩餘金額,和轉賬過程對方賬戶金額入賬的數據一緻性;而OLAP數據倉庫側重于記錄誰進行了轉賬、轉了多少錢、錢轉到了哪裡。曆史上該用戶習慣在什麼時間轉賬,月初還是月末?一個月轉賬幾次?
二、數據倉庫的特點
下面的是數據倉庫的幾個典型特點:
- 關注于記錄數據變化的過程,而不是數據當前的狀态。
- 讀多寫少
- 大寬表
- 數據批量操作,不更新或很少更新
- 不支持事務
有的工作經驗相對少的朋友看了這幾條會說:“這哪是什麼特點,這都是缺點啊!” 。不更新或很少更新,讀多寫少都是場景限制,大寬表破壞數據庫設計範式,不支持事務那還叫什麼數據庫?其實不然,在OLAP的場景下,這些恰恰是它為了保障數據分析的性能所進行特殊設計的特點。我給大家舉幾個例子:
- 比如:某雲廠商按周期采集服務器的運行指标,比如:内存使用率、CPU使用率等等。這些指标都是批量采集、批量入庫的,一旦入庫就不會再去修改。通常也不會将内存指标建立一張表、CPU使用率建一張表,而是對于同一機房的服務器建一張表,這張表以時間維度包含各種指标。比如:查詢内存使用率>80,CPU使用率>70的服務器的時候,就不會兩表關聯查詢了,查詢一張寬表就可以了,數據分析的性能飛躍式提升。不支持事務,通常OLAP系統不支持事務,因為事務會在一定程度上影響數據操作的性能。數據入庫之後,需要針對這些指标不斷地進行分析、挖掘,即:讀多寫少,基本上就批量寫一次後續都是“查詢數據”操作。
- 又比如:股票實時交易數據,關注于記錄數據變化的過程,而不是數據當前的狀态。所有股票的所有曆史數據一旦進入數據倉庫之後,就不會發生修改。可以進行股票量化交易分析。
- 又比如:用戶商品點擊量數據、用戶操作行為數據、用戶網頁浏覽時長數據等等,這些數據都是對用戶進行分析所需要的數據,一旦入庫不會修改。可以進行用戶買賣意願行為分析。
其實還有很多這種類型的數據,這種數據的特點就是:數據量大、産生之後不會發生變化(那一個時間刻度的數據就不會發生變化)。因此,數據倉庫通常面向的是吞吐量大的曆史數據進行存檔、不會再做更新删除操作的這種數據場景,數據存檔之後通常隻面向數據查詢分析。
三、數據庫與數據倉庫結合使用
通常一個較大型的應用服務系統,既有數據庫,也有數據倉庫。數據庫面向用戶進行聯機事務處理,處理用戶界面的實時操作。數據倉庫的數據面向決策管理層,提供數據及圖形報表,提供變化多樣的數據分析決策。
![數據庫和數據倉庫區别(數據倉庫之間的區别與聯系) 數據庫和數據倉庫區别(數據倉庫之間的區别與聯系)1](/uploads3/large/tos-cn-i-qvj2lq49k0/b9431384f7a94b4a9cc00ec3feae6861.jpg)
數據庫與數據倉庫結合使用
上圖是一個典型的數據庫與數據倉庫同時存在的應用服務場景
- 互聯網用戶通過應用服務産生用戶行為,對數據庫進行OLTP操作
- 應用服務把用戶的操作的行為發送給消息隊列,消息隊列将數據導入數據倉庫
- 數據庫的數據可以通過ETL抽取、處理、轉換、整合到數據倉庫
- 決策分析系統主要面向數據倉庫進行數據分析,數據分析結果可以回饋到數據庫,通過應用服務面向互聯網用戶提供數據分析結果查看能力
- 決策分析系統同時對應用服務的決策管理者,提供數據分析決策支撐能力
![數據庫和數據倉庫區别(數據倉庫之間的區别與聯系) 數據庫和數據倉庫區别(數據倉庫之間的區别與聯系)2](/uploads3/large/tos-cn-i-qvj2lq49k0/449a6d5d111a4c9088b637374a73eee4.jpg)
, 更多精彩资讯请关注tft每日頭條,我们将持续为您更新最新资讯!