消息隊列已經逐漸成為分布式應用場景、内部通信、以及秒殺等高并發業務場景的核心手段,它具有低耦合、可靠投遞、廣播、流量控制、最終一緻性 等一系列功能。
無論是 RabbitMQ、RocketMQ、ActiveMQ、Kafka還是其它等,都有的一些基本原理、術語、機制等,總結分享出來,希望大家在使用消息隊列技術的時候能夠快速理解。
1. 消息生産者、消息者、隊列
2.設計Broker主要考慮
1)消息的轉儲:在更合适的時間點投遞,或者通過一系列手段輔助消息最終能送達消費機。
2)規範一種範式和通用的模式,以滿足解耦、最終一緻性、錯峰等需求。
3)其實簡單理解就是一個消息轉發器,把一次RPC做成兩次RPC。發送者把消息投遞到broker,broker再将消息轉發一手到接收端。
總結起來就是兩次RPC加一次轉儲,如果要做消費确認,則是三次RPC。
3. 點對點消息隊列模型
點對點模型 用于 消息生産者 和 消息消費者 之間 點到點 的通信。
點對點模式包含三個角色:
每個消息都被發送到一個特定的隊列,接收者從隊列中獲取消息。隊列保留着消息,可以放在 内存 中也可以 持久化,直到他們被消費或超時。
特點
4. 發布訂閱消息模型Topic
發布訂閱模型包含三個角色:
多個發布者将消息發送到Topic,系統将這些消息傳遞給多個訂閱者。
特點
5.點對點和發布訂閱的區别
生産者發送一條消息到隊列queue,隻有一個消費者能收到。
發布者發送到topic的消息,隻有訂閱了topic的訂閱者才會收到消息。
6. 消息的順序性保證
基于Queue消息模型,利用FIFO先進先出的特性,可以保證消息的順序性。
7. 消息的ACK機制
即消息的Ackownledge确認機制,
為了保證消息不丢失,消息隊列提供了消息Acknowledge機制,即ACK機制,當Consumer确認消息已經被消費處理,發送一個ACK給消息隊列,此時消息隊列便可以删除這個消
息了。如果Consumer宕機/關閉,沒有發送ACK,消息隊列将認為這個消息沒有被處理,會将這個消息重新發送給其他的Consumer重新消費處理。
8.最終一緻性的設計思路
主要是用“記錄”和“補償”的方式。
本地事務維護業務變化和通知消息,一起落地,然後RPC到達broker,在broker成功落地後,RPC返回成功,本地消息可以删除。否則本地消息一直靠定時任務輪詢不斷重發,這樣就保證了消息可靠落地broker。
broker往consumer發送消息的過程類似,一直發送消息,直到consumer發送消費成功确認。
我們先不理會重複消息的問題,通過兩次消息落地加補償,下遊是一定可以收到消息的。然後依賴狀态機版本号等方式做判重,更新自己的業務,就實現了最終一緻性。
如果出現消費方處理過慢消費不過來,要允許消費方主動ack error,并可以與broker約定下次投遞的時間。
對于broker投遞到consumer的消息,由于不确定丢失是在業務處理過程中還是消息發送丢失的情況下,有必要記錄下投遞的IP地址。決定重發之前詢問這個IP,消息處理成功了嗎?如果詢問無果,再重發。
事務:本地事務,本地落地,補償發送。本地事務做的,是業務落地和消息落地的事務,而不是業務落地和RPC成功的事務。消息隻要成功落地,很大程度上就沒有丢失的風險。
9. 消息的事務支持
消息的收發處理支持事務,例如:在任務中心場景中,一次處理可能涉及多個消息的接收、處理,這應該處于同一個事務範圍内,如果一個消息處理失敗,事務回滾,消息重新回到隊列中。
10. 消息的持久化
消息的持久化,對于一些關鍵的核心業務來說是非常重要的,啟用消息持久化後,消息隊列宕機重啟後,消息可以從持久化存儲恢複,消息不丢失,可以繼續消費處理。
11. 消息隊列的高可用性
在實際生産環境中,使用單個實例的消息隊列服務,如果遇到宕機、重啟等系統問題,消息隊列就無法提供服務了,因此很多場景下,我們希望消息隊列有高可用性支持,例如
RabbitMQ的鏡像集群模式的高可用性方案,ActiveMQ也有基于LevelDB ZooKeeper的高可用性方案,以及Kafka的Replication機制等。
12.消息隊列的選型和應用場景
具體請參考:高并發架構系列:詳解分布式之消息隊列的特點、選型、及應用場景
以上是就是消息隊列MQ技術的一些梳理和歸納,希望對大家有幫助。更多Redis系列、Dubbo微服務系列、數據庫系列等高并發架構設計,具體請參考高并發架構專題。
高并發架構系列專題精講該資料獲取方式
關注 轉發後,私信我關鍵詞 【高并發】即可獲取!
,
更多精彩资讯请关注tft每日頭條,我们将持续为您更新最新资讯!