tft每日頭條

 > 生活

 > 亞馬遜雲計算深度解析

亞馬遜雲計算深度解析

生活 更新时间:2024-10-12 11:12:22

近期,AWS上發布了Pivotal與Amazon Web Services通過合作輕松地實現Pivotal Greenplum的部署和持續運維的消息。這個功能非常有必要,但還不夠。尤其是,我們已經投入資源使Greenplum實現真正的雲原生化。這意味着,我們通過易于使用、可擴展、經濟高效而又具有高性能的解決方案,獲得了在雲計算領域的優勢。

基于公有雲的Greenplum目前在性能方面可與專用裸機安裝相提并論,但無需前期資本支出。它速度快、支持跨IaaS、屬于混合雲、開源且功能強大(而且在經濟效益方面很有吸引力)!

我們優化了基于公有雲的Greenplum 6,以更好地适用雲原生模式,與AWS的合作,就是非常好的例子

Greenplum針對雲原生進行了優化

基于AWS的Greenplum具備以下架構屬性:

  • 可通過AWS CloudFormation實現自動部署
  • 自我修複:如果任何虛拟機實例出現故障,系統會自動創建替換實例,然後執行端到端恢複過程。
  • 快照備份:EBS磁盤快照自動化功能讓您能夠以極快的速度執行數據庫備份。
  • 獨立于計算,在線增加存儲空間。
  • 按需災難恢複:将EBS磁盤快照複制到其他區域并在必要時僅調配一個災難恢複集群。
Greenplum針對雲托管進行了優化

運維體驗如何?基于AWS的Greenplum非常适合公有雲運維模型:

  • 暫停/恢複:僅在需要集群時為其付費。
  • 自動維護:自動執行常見數據庫管理維護命令
  • 自動執行可選安裝:一個命令即可安裝各種可選組件。
  • 自動升級:新版本發布後,管理員會收到通知,并且可以選擇通過一個命令進行升級。

性能優化是一項長期持續的任務,最新版本的基于AWS的Greenplum在這一領域又向前邁進了一步。我們來更深入了解一下如何平衡性能和計算支出。

Greenplum針對存儲進行了優化

吞吐量(而非IOPS)對Greenplum磁盤性能至關重要。吞吐量以MB/s為單位,可使用Greenplum gpcheckperf進行觀察。AWS還發布了性能和成本指标。摘要信息如下:

亞馬遜雲計算深度解析(基于AmazonWebServices的Pivotal)1

*us-east-1的定價。

對于ST1和SC1磁盤,我們還必須考慮基本吞吐量和突增吞吐量。随着卷大小的增加,基本吞吐量也會提高。

GP2和IO1

我們通過評估發現,與ST1和SC1存儲相比,這些選項成本較高。另外,對于Greenplum等高吞吐量應用來說,這些不是最佳選擇。

ST1和SC1

若要實現最高突增速度,SC1磁盤存儲空間至少要達到3.125TB;對于ST1,至少要達到2TB。

如果您需要8TB數據,則可以使用2個SC1磁盤,每個4TB,這樣可實現與1個8TB的ST1磁盤相同的突增吞吐量。不過,價格要比SC1磁盤便宜44%!采用我們的配置,您可以實現相同的突增性能,同時節省44%的資金。

Greenplum針對計算進行了優化

我們研究了AWS中提供的多種實例類型,最終确定R5系列的CPU、内存和EBS磁盤性能組合最适合Greenplum。

R5系列:深入研究

2018年6月,Amazon發布了R5系列。這些實例是R4系列的升級版,速度更快且更經濟實惠。與其他實例類型一樣,EBS磁盤性能有相應的速度限制,如下表所示。

亞馬遜雲計算深度解析(基于AmazonWebServices的Pivotal)2

R5系列的主要功能特性:

r5.xlarge、r5.2xlarge和r5.4xlarge的磁盤吞吐量值相同。

r5.8xlarge的價格是r5.4xlarge的2倍,但磁盤吞吐量未達到2倍。

此圖顯示了各種R5實例類型的疊加方式。請注意,與r5.xlarge相比,r5.2xlarge在CPU、内存和成本改進方面提升了一倍。但是,磁盤性能沒有區别,因為是相同的。

亞馬遜雲計算深度解析(基于AmazonWebServices的Pivotal)3

換句話說,r5.12xlarge的成本是r5.4xlarge的3倍,同時具備3倍CPU和3倍内存。

但是,r5.12xlarge提供的磁盤性能僅為r5.4xlarge的2倍。

亞馬遜雲計算深度解析(基于AmazonWebServices的Pivotal)4

因為我們與Greenplum進行了I/O綁定,所以最好使用3個r5.4xlarge節點而不是1個r5.12xlarge節點。采用SC1存儲,相同成本可實現更高的吞吐量。

總結

我們确定,與使用一個ST1磁盤相比,使用多個SC1磁盤能以更低的成本實現同樣的吞吐量。然後,我們發現,采用更小的實例類型,在成本一定的情況下,我們能夠從集群獲得更高的總吞吐量。

基于AWS的Greenplum的當前配置實現了上述結果,并對分段實例采用r5.4xlarge實例類型,每個實例3個SC1磁盤。即使采用相對較小的磁盤,也能實現該實例類型的最大吞吐量,同時節省資金。最終,與之前Marketplace上的産品相比,我們節省了44%的數據存儲成本!

集群中的主節點通常不需要大量資源,因此可以使用容量較小但價格較低的r5.xlarge。r5.2xlarge和r5.4xlarge實例類型也可用于主實例,但較小的實例類型應該足夠了。存儲采用一個可調整為很小容量的SC1磁盤,不僅節省資金,還能提供出色的性能。

進行下一步:部署基于AWS的Greenplum

部署基于AWS的Greenplum比以往任何時候都更簡單。選擇“确定”即可查看AWS Marketplace中的Pivotal Greenplum自帶許可(BYOL)和Pivotal Greenplum(按小時付費)産品。BYOL還可享受90天的免費評估期!

此外還有單實例選項,非常适合開發和測試用例。



關于作者:

亞馬遜雲計算深度解析(基于AmazonWebServices的Pivotal)5

Jon Roberts

Pivotal首席工程師

Jon Roberts是一位首席工程師,負責領導在AWS、Microsoft Azure和Google Cloud Platform Marketplace中部署Greenplum和Postgres的開發工作。在此之前(追溯到2010年),他一直擔任平台工程和銷售工程職務。在加入Pivotal之前,他已成為Greenplum客戶三年。他擁有路易斯維爾大學的工商管理學士學位,非常優秀!

,

更多精彩资讯请关注tft每日頭條,我们将持续为您更新最新资讯!

查看全部

相关生活资讯推荐

热门生活资讯推荐

网友关注

Copyright 2023-2024 - www.tftnews.com All Rights Reserved