掃二維碼與項(xiàng)目經(jīng)理溝通
我們在微信上24小時(shí)期待你的聲音
解答本文疑問/技術(shù)咨詢/運(yùn)營咨詢/技術(shù)建議/互聯(lián)網(wǎng)交流
本文轉(zhuǎn)載自微信公眾號「菜鳥飛呀飛」,作者劉進(jìn)坤。轉(zhuǎn)載本文請聯(lián)系菜鳥飛呀飛公眾號。

創(chuàng)新互聯(lián)主營海鹽網(wǎng)站建設(shè)的網(wǎng)絡(luò)公司,主營網(wǎng)站建設(shè)方案,重慶APP軟件開發(fā),海鹽h5微信小程序搭建,海鹽網(wǎng)站營銷推廣歡迎海鹽等地區(qū)企業(yè)咨詢
前言
在面過的幾家大廠中,幾乎每輪的面試官(「沒寫錯(cuò),幾乎是每輪面試官」)都問了同樣一個(gè)問題:你們的系統(tǒng)是分布式的系統(tǒng)嗎?
答:是。
面試官:那么你們分布式的系統(tǒng)是如何解決分布式事務(wù)這個(gè)問題的呢?也就是如何保證數(shù)據(jù)的一致性。
答:我們的系統(tǒng)中通過 RocketMQ 的事務(wù)消息來保證數(shù)據(jù)的最終一致性。
面試官:那你說說它是如何來保證數(shù)據(jù)的最終一致性的?
答:分兩部分來回答,第一部分先回答事務(wù)消息的實(shí)現(xiàn)流程,第二部分解釋為什么它能保證數(shù)據(jù)的最終一致性。
事務(wù)消息的實(shí)現(xiàn)流程
事務(wù)消息
如何保證數(shù)據(jù)的最終一致性
實(shí)現(xiàn)流程說完了,可能你現(xiàn)在有各種各樣的疑惑?
Q: half 消息是個(gè)啥?
A: 它和我們正常發(fā)送的普通消息是一樣的,都是存儲在 MQ 中,唯一不同的是 half 在 MQ 中不會(huì)立馬被消費(fèi)者消費(fèi)到,除非這個(gè) half 消息被 commit 了。(至于為什么未 commit 的 half 消息無法被消費(fèi)者讀取到,這是因?yàn)樵?MQ 內(nèi)部,對于事務(wù)消息而言,在 commit 之前,會(huì)先放在一個(gè)內(nèi)部隊(duì)列中,只有 commit 了,才會(huì)真正將消息放在消費(fèi)者能讀取到的 topic 隊(duì)列中)
Q: 為什么要先發(fā)送 half 消息?
A: 前面已經(jīng)解釋過了,主要是為了保證服務(wù) A 和 MQ 之間是否能正常通信,如果兩者之間都不能正常通信,后面還玩?zhèn)€錘子,直接返回異常就可以了。
Q: 如果 MQ 接收到了 half 消息,但是在返回 success 響應(yīng)的時(shí)候,因?yàn)榫W(wǎng)絡(luò)原因,導(dǎo)致服務(wù) A 沒有接收到 success 響應(yīng),這個(gè)時(shí)候是什么現(xiàn)象?
A: 當(dāng)服務(wù) A 發(fā)送 half 消息后,它會(huì)等待 MQ 給自己返回 success 響應(yīng),如果沒有接收到,那么服務(wù) A 也會(huì)直接結(jié)束,返回異常,不再執(zhí)行后續(xù)邏輯。不執(zhí)行后續(xù)邏輯,這樣服務(wù) A 也就不會(huì)提交 commit 消息給 MQ,MQ 長時(shí)間沒接收到 commit 消息,那么它就會(huì)主動(dòng)回調(diào)服務(wù) A 的一個(gè)接口,服務(wù) A 通過接口,查詢本地?cái)?shù)據(jù)后,發(fā)現(xiàn)這條消息對應(yīng)的業(yè)務(wù)并沒有正常執(zhí)行,那么就告訴 MQ,這個(gè) half 消息不能 commit,需要 rollback,MQ 知道后,就將 half 消息進(jìn)行刪除。
Q: 如果服務(wù) A 本地事務(wù)執(zhí)行失敗了,怎么辦?
A: 服務(wù) A 本地事務(wù)執(zhí)行失敗后,先對自己本地事務(wù)進(jìn)行回滾,然后再向 MQ 發(fā)送 rollback 操作。
Q: 服務(wù) A 本地事務(wù)提交成功或失敗后,向 MQ 發(fā)送的 commit 或者 rollback 消息,因?yàn)榫W(wǎng)絡(luò)問題丟失了,又該怎么處理?
A: 和上一個(gè)問題一樣,MQ 長時(shí)間沒有接收到 half 消息的 commit 或者 rollback 消息,MQ 會(huì)主動(dòng)回調(diào)服務(wù) A 的接口,通過這個(gè)接口來判斷自己該對這個(gè) half 消息如何處理。
Q: 前面說的全是事務(wù)消息的實(shí)現(xiàn)流程,這和事務(wù)消息如何保證數(shù)據(jù)的最終一致性有什么關(guān)系呢?
A: 有關(guān)系。首先,服務(wù) A 執(zhí)行本地事務(wù)并提交和向 MQ 中發(fā)送消息這是兩個(gè)寫操作,然后通過 RocketMQ 的事務(wù)消息,我們保證了這兩個(gè)寫操作要么都執(zhí)行成功,要么都執(zhí)行失敗。然后讓其他系統(tǒng),如服務(wù) B 通過消費(fèi) MQ 中的消息,然后再去執(zhí)行自己本地的事務(wù),這樣到最后,服務(wù) A 和服務(wù) B 這兩個(gè)系統(tǒng)的數(shù)據(jù)狀態(tài)是不是達(dá)到了一致?這就是最終一致性的含義。
如果要求服務(wù) A 和服務(wù) B 的數(shù)據(jù)狀態(tài),在服務(wù) A 返回給客戶端之間,這兩者就達(dá)到一致,這是強(qiáng)一致性,RocketMQ 是沒法保證強(qiáng)一致性的。
目前通過「可靠消息來保證數(shù)據(jù)的最終一致性」是很多大廠都采用的方案,基本都是通過 MQ 和補(bǔ)償機(jī)制來保證數(shù)據(jù)的一致性。(所謂的可靠消息,就是消息不丟失,如何保證 MQ 的消息不丟失,下篇文章會(huì)寫,這也是面試??碱})
Q: 服務(wù) B 本地事務(wù)提交失敗了,怎么辦?
A: 如果服務(wù) B 本地事務(wù)提交失敗了,可以進(jìn)行多次重試,直到成功。如果重試多次后,還是提交失敗,例如此時(shí)服務(wù) B 對應(yīng)的 DB 宕機(jī)了,這個(gè)時(shí)候只要服務(wù) B 不向 MQ 提交本次消息的 offset 即可。如果不提交 offset,那么 MQ 會(huì)在一定時(shí)間后,繼續(xù)將這條消息推送給服務(wù) B,服務(wù) B 就可以繼續(xù)執(zhí)行本地事務(wù)并提交了,直到成功。這樣,依舊是保證了服務(wù) A 和服務(wù) B 數(shù)據(jù)的最終一致性。
代碼實(shí)現(xiàn)
使用 RokcetMQ 的事務(wù)消息主要涉及到兩個(gè)部分:
如何發(fā)送半事務(wù)消息,這個(gè)可以通過「TransactionMQProducer」 類來實(shí)現(xiàn)。
- TransactionMQProducer transactionMQProducer = new TransactionMQProducer("producerGroup");
- TransactionSendResult result = transactionMQProducer.sendMessageInTransaction(msg, null);
- // 通過result來判斷half消息是否發(fā)送成功
- if(result.getSendStatus() == SendStatus.SEND_OK){
- // 成功
- }else{
- // 失敗
- }
在前面我們提到了服務(wù) A 需要提供一個(gè)接口,用來供 MQ 回調(diào)服務(wù) A,實(shí)際上這個(gè)接口就是一個(gè)監(jiān)聽器:「TransactionListener」的方法。這是一個(gè)接口,提供了兩個(gè)方法。
- public interface TransactionListener {
- // 當(dāng)half消息發(fā)送成功后,我們在這里實(shí)現(xiàn)自己的業(yè)務(wù)邏輯,然后commit或者rollback 給MQ
- LocalTransactionState executeLocalTransaction(final Message msg, final Object arg);
- // 這個(gè)方法就是供MQ回調(diào)的方法,MQ通過回調(diào)該方法來判斷half消息的狀態(tài)
- // 可以看到,這個(gè)方法的參數(shù)是MessageExt,也就是half消息的內(nèi)容,如果根據(jù)MessageExt,我們完全能在服務(wù)A中判斷之前的業(yè)務(wù)是否處理成功
- LocalTransactionState checkLocalTransaction(final MessageExt msg);
- }
實(shí)際使用時(shí),我們需要實(shí)現(xiàn)該接口,例如:
- public class MyTransactionListener implements TransactionListener {
- @Override
- public LocalTransactionState executeLocalTransaction(Message msg, Object arg) {
- try{
- // 處理業(yè)務(wù)邏輯
- // ....
- // 業(yè)務(wù)邏輯處理成功,commit
- return LocalTransactionState.COMMIT_MESSAGE;
- }catch (Exception e){
- }
- // 業(yè)務(wù)處理失敗,rollback
- return LocalTransactionState.ROLLBACK_MESSAGE;
- }
- @Override
- public LocalTransactionState checkLocalTransaction(MessageExt msg) {
- return null;
- }
- }
另外,在創(chuàng)建 producer 時(shí),指定我們實(shí)現(xiàn)實(shí)現(xiàn)的監(jiān)聽器
- TransactionMQProducer transactionMQProducer = new TransactionMQProducer("producerGroup");
- transactionMQProducer.setTransactionListener(new MyTransactionListener());
總結(jié)
分布式事務(wù)是大廠面試必問題,而目前大部分公司都是采用可靠消息來保證數(shù)據(jù)的最終一種性,通常會(huì)采用 RocketMQ 來實(shí)現(xiàn)。如果想去阿里的同學(xué),建議 MQ 這塊,選擇 RocketMQ 多復(fù)習(xí)一下。

我們在微信上24小時(shí)期待你的聲音
解答本文疑問/技術(shù)咨詢/運(yùn)營咨詢/技術(shù)建議/互聯(lián)網(wǎng)交流