我們經(jīng)常需要設(shè)計(jì)具有高可用性、高可擴(kuò)展性和高吞吐量的系統(tǒng)。它們的確切含義是什么？

目前創(chuàng)新互聯(lián)已為成百上千家的企業(yè)提供了網(wǎng)站建設(shè)、域名、網(wǎng)站空間、網(wǎng)站托管、企業(yè)網(wǎng)站設(shè)計(jì)、威信網(wǎng)站維護(hù)等服務(wù)，公司將堅(jiān)持客戶導(dǎo)向、應(yīng)用為本的策略，正道將秉承"和諧、參與、激情"的文化，與客戶和合作伙伴齊心協(xié)力一起成長(zhǎng)，共同發(fā)展。

下圖是一份系統(tǒng)設(shè)計(jì)小抄，包含“三高”常見的解決方案。

圖片

01 高可用性

高可用意味著我們需要達(dá)到一個(gè)高水平的正常運(yùn)行時(shí)間。我們通常將設(shè)計(jì)目標(biāo)描述為 "3 個(gè) 9 " 或 "4 個(gè) 9"。"4 個(gè)九"，即 99.99% 的正常運(yùn)行時(shí)間，意味著服務(wù)每天只能中斷 8.64 秒。

要實(shí)現(xiàn)高可用性，我們需要在系統(tǒng)中設(shè)計(jì)冗余。有幾種方法可以做到這一點(diǎn)：

• Hot-Hot

兩個(gè)實(shí)例接收相同的輸入，并將輸出發(fā)送到下游服務(wù)。如果其中一方宕機(jī)，另一方可以立即接替。由于兩邊都向下游發(fā)送輸出，下游系統(tǒng)需要能夠處理重復(fù)數(shù)據(jù)。

• Hot-Warm

兩個(gè)實(shí)例接收相同的輸入，只有 Hot 端向下游服務(wù)發(fā)送輸出。如果 Hot 端宕機(jī)， Warm 端將接替并開始向下游服務(wù)發(fā)送輸出。

• 單領(lǐng)導(dǎo)集群 (Single Leader)

一個(gè)領(lǐng)導(dǎo)實(shí)例從上游系統(tǒng)接收數(shù)據(jù)并復(fù)制到其他副本。

• 無(wú)領(lǐng)導(dǎo)集群 (Leaderless)

這種集群中沒有領(lǐng)導(dǎo)者。任何寫入都會(huì)復(fù)制到其他實(shí)例。只要寫入實(shí)例數(shù)加上讀取實(shí)例數(shù)大于實(shí)例總數(shù)，我們就能獲得有效數(shù)據(jù)。這被稱為 quorum。

02 高吞吐量

這意味著服務(wù)需要在一段時(shí)間內(nèi)處理大量請(qǐng)求。常用的指標(biāo)是 QPS（每秒查詢次數(shù)）或 TPS（每秒事務(wù)次數(shù)）。

為了實(shí)現(xiàn)高吞吐量，我們通常會(huì)在架構(gòu)中添加緩存，以避免經(jīng)過(guò)數(shù)據(jù)庫(kù)或磁盤等較慢的 I/O 設(shè)備。我們還可以為計(jì)算密集型任務(wù)增加線程數(shù)量。但是，增加過(guò)多的線程會(huì)降低性能。因此，我們需要找出系統(tǒng)的瓶頸，提高系統(tǒng)的吞吐量。

我們還可以在系統(tǒng)中使用異步處理，以有效地單獨(dú)隔離耗時(shí)耗資源的組件。

03 高擴(kuò)展性

高擴(kuò)展性意味著系統(tǒng)可以快速、輕松地?cái)U(kuò)展，以容納更多的容量（橫向可擴(kuò)展性）或更多的功能（縱向可擴(kuò)展性）。通常，我們通過(guò)觀察響應(yīng)時(shí)間來(lái)決定是否需要擴(kuò)展系統(tǒng)。

要實(shí)現(xiàn)高度可擴(kuò)展性，需要隔離每個(gè)服務(wù)的職責(zé)。為此，微服務(wù)被廣泛采用。我們還利用服務(wù)注冊(cè)和負(fù)載平衡器將請(qǐng)求路由到適當(dāng)?shù)膶?shí)例。

分享標(biāo)題：系統(tǒng)設(shè)計(jì)小抄-如何做到高可用、高吞吐、高擴(kuò)展性
URL標(biāo)題：http://uogjgqi.cn/article/dhepgje.html