mq怎么保證數(shù)據(jù)不丟失 高并發(fā)場(chǎng)景下,如何保證生產(chǎn)者投遞到消息中間件的消息不丟失?
高并發(fā)場(chǎng)景下,如何保證生產(chǎn)者投遞到消息中間件的消息不丟失?消息中間件消息不丟失主要從以下幾個(gè)方面考慮投遞生產(chǎn)者向消息中間件投遞消息是push的方式,這種方法會(huì)出現(xiàn)以下情況1、生產(chǎn)者掛掉了情況是這樣的,
高并發(fā)場(chǎng)景下,如何保證生產(chǎn)者投遞到消息中間件的消息不丟失?
消息中間件消息不丟失主要從以下幾個(gè)方面考慮
投遞
生產(chǎn)者向消息中間件投遞消息是push的方式,這種方法會(huì)出現(xiàn)以下情況
1、生產(chǎn)者掛掉了
情況是這樣的,你的生產(chǎn)者收到了數(shù)據(jù),并存到了數(shù)據(jù)庫(kù)中,同時(shí)生產(chǎn)者要降消息push到消息中間件做異步處理。這時(shí)候如果生產(chǎn)者掛掉了,就導(dǎo)致消息數(shù)據(jù)沒(méi)有push到消息中間件里,也就會(huì)出現(xiàn)數(shù)據(jù)不一致的問(wèn)題。
這時(shí)候我們可以在數(shù)據(jù)庫(kù)設(shè)置是否投遞成功標(biāo)志位,在生產(chǎn)者push之后,再將標(biāo)志位設(shè)置為已經(jīng)投遞。另外,客氣啟動(dòng)一個(gè)定時(shí)任務(wù),檢測(cè)是否有消息沒(méi)有投遞,保證消息數(shù)據(jù)一定會(huì)進(jìn)入中間件。
2、消息重試
生產(chǎn)者沒(méi)有掛掉,但是因?yàn)榫W(wǎng)絡(luò)等其他問(wèn)題,導(dǎo)致生產(chǎn)者不知道有沒(méi)有投遞成功。這時(shí)候生產(chǎn)者可以失敗重試,這保證消息可以再次投遞。但是這有可能會(huì)出現(xiàn)重復(fù)投遞,導(dǎo)致出現(xiàn)中間件消息數(shù)據(jù)重復(fù)。
存儲(chǔ)
消息中間件是存到磁盤上的,存入磁盤的消息一般是不會(huì)丟失的,同時(shí)磁盤文件還會(huì)做備份。如果一個(gè)丟失了,可以通過(guò)備份文件恢復(fù)。
消費(fèi)
一般消費(fèi)者需要在消費(fèi)者消費(fèi)成功之后再設(shè)置提交消費(fèi)位點(diǎn)。如果消費(fèi)失敗,消費(fèi)者不提交消費(fèi)位點(diǎn)還是可以消費(fèi)該數(shù)據(jù)的。這就引出一個(gè)問(wèn)題就是消息重復(fù)消費(fèi)。這個(gè)問(wèn)題和上邊提到的消息重復(fù)投遞相同,都會(huì)導(dǎo)致重復(fù)消費(fèi),這就需要考慮消費(fèi)的冪等性,可以做消費(fèi)記錄,防止重復(fù)消費(fèi)。
如何設(shè)計(jì)一個(gè)MQ消息隊(duì)列?
1.先上圖,明確一個(gè)消息發(fā)送和消費(fèi)的流程
2.消息消息首先需要定義消息協(xié)議,比如ActiveMQ,Stomp,XMPP等
3.消息協(xié)議定義好了,明確消息隊(duì)列需要滿足什么場(chǎng)景
是否需要保證消息可靠性,如果需要就要做存儲(chǔ)的高可用
是否需要支持同步和異步消息
是否需要保證消息的順序
是否需要支持延時(shí)消息
具體可以參照很多開源實(shí)現(xiàn)的特性,比如RocketMQ就是高可靠的,Kafka就是高吞吐量的,但是不是高可靠的。
為什么使用mq?
謝謝邀請(qǐng)回答:
抱歉,不太領(lǐng)會(huì)問(wèn)答題的真正含義,無(wú)法答辯。諒解!