掃二維碼與項(xiàng)目經(jīng)理溝通
我們?cè)谖⑿派?4小時(shí)期待你的聲音
解答本文疑問/技術(shù)咨詢/運(yùn)營(yíng)咨詢/技術(shù)建議/互聯(lián)網(wǎng)交流
一、前言

創(chuàng)新互聯(lián)于2013年成立,是專業(yè)互聯(lián)網(wǎng)技術(shù)服務(wù)公司,擁有項(xiàng)目做網(wǎng)站、成都網(wǎng)站建設(shè)網(wǎng)站策劃,項(xiàng)目實(shí)施與項(xiàng)目整合能力。我們以讓每一個(gè)夢(mèng)想脫穎而出為使命,1280元金湖做網(wǎng)站,已為上家服務(wù),為金湖各地企業(yè)和個(gè)人服務(wù),聯(lián)系電話:028-86922220
關(guān)于mysql主從同步,相信大家都不陌生,隨著系統(tǒng)應(yīng)用訪問量逐漸增大,單臺(tái)數(shù)據(jù)庫(kù)讀寫訪問壓力也隨之增大,當(dāng)讀寫訪問達(dá)到一定瓶頸時(shí),將數(shù)據(jù)庫(kù)的讀寫效率驟然下降,甚至不可用;為了解決此類問題,通常會(huì)采用mysql集群,當(dāng)主庫(kù)宕機(jī)后,集群會(huì)自動(dòng)將一個(gè)從庫(kù)升級(jí)為主庫(kù),繼續(xù)對(duì)外提供服務(wù);那么主庫(kù)和從庫(kù)之間的數(shù)據(jù)是如何同步的呢?本文針對(duì)MySQL 5.7版本進(jìn)行下面的分析,下面隨筆者一起探究一下mysql主從是如何同步的。
二、MySQL主從復(fù)制原理
為了減輕主庫(kù)的壓力,應(yīng)該在系統(tǒng)應(yīng)用層面做讀寫分離,寫操作走主庫(kù),讀操作走從庫(kù),下圖為MySQL官網(wǎng)給出的主從復(fù)制的原理圖,從圖中可以簡(jiǎn)單的了解讀寫分離及主從同步的過程,分散了數(shù)據(jù)庫(kù)的訪問壓力,提升整個(gè)系統(tǒng)的性能和可用性,降低了大訪問量引發(fā)數(shù)據(jù)庫(kù)宕機(jī)的故障率。
三、binlog簡(jiǎn)介
MySQL主從同步是基于binlog文件主從復(fù)制實(shí)現(xiàn),為了更好的理解主從同步過程,這里簡(jiǎn)單介紹一下binlog日志文件。
binlog日志用于記錄所有更新了數(shù)據(jù)或者已經(jīng)潛在更新了數(shù)據(jù)(例如,沒有匹配任何行的一個(gè)DELETE)的所有語句。語句以“事件”的形式保存,它描述數(shù)據(jù)更改,它是以二進(jìn)制的形式保存在磁盤中。我們可以通過mysql提供的查看工具mysqlbinlog查看文件中的內(nèi)容,例如 mysqlbinlog mysql-bin.00001 | more,這里注意一下binlog文件的后綴名00001,binlog文件大小和個(gè)數(shù)會(huì)不斷的增加,當(dāng)MySQL停止或重啟時(shí),會(huì)產(chǎn)生一個(gè)新的binlog文件,后綴名會(huì)按序號(hào)遞增,例如mysql-bin.00002、mysql-bin.00003,并且當(dāng)binlog文件大小超過 max_binlog_size系統(tǒng)變量配置時(shí)也會(huì)產(chǎn)生新的binlog文件。
(一)binlog日志格式
(1) statement : 記錄每一條更改數(shù)據(jù)的sql;
(2) row : 不記錄sql,只記錄每行數(shù)據(jù)的更改細(xì)節(jié)
(3) mixed:一般的語句修改使用statment格式保存binlog,如一些函數(shù),statement無法完成主從復(fù)制的操作,則采用row格式保存binlog,MySQL會(huì)根據(jù)執(zhí)行的每一條具體的sql語句來區(qū)分對(duì)待記錄的日志形式,也就是在Statement和Row之間選擇一種。
(二)binlog日志內(nèi)容
mysqlbinlog命令查看的內(nèi)容如下:
根據(jù)事件類型查看的binlog內(nèi)容:
(三)binlog事件類型
MySQL binlog記錄的所有操作實(shí)際上都有對(duì)應(yīng)的事件類型的,譬如STATEMENT格式中的DML操作對(duì)應(yīng)的是QUERY_EVENT類型,ROW格式下的DML操作對(duì)應(yīng)的是ROWS_EVENT類型,如果想了解更多請(qǐng)參考官方文檔,有關(guān)binlog日志內(nèi)容不在這里過多贅述,簡(jiǎn)單介紹一下是為了更好的理解主從復(fù)制的細(xì)節(jié),下面我們進(jìn)入正題。
四、MySQL主從復(fù)制原理
mysql主從復(fù)制需要三個(gè)線程,master(binlog dump thread)、slave(I/O thread 、SQL thread)。
master
(1)binlog dump線程:當(dāng)主庫(kù)中有數(shù)據(jù)更新時(shí),那么主庫(kù)就會(huì)根據(jù)按照設(shè)置的binlog格式,將此次更新的事件類型寫入到主庫(kù)的binlog文件中,此時(shí)主庫(kù)會(huì)創(chuàng)建log dump線程通知slave有數(shù)據(jù)更新,當(dāng)I/O線程請(qǐng)求日志內(nèi)容時(shí),會(huì)將此時(shí)的binlog名稱和當(dāng)前更新的位置同時(shí)傳給slave的I/O線程。
slave
(2)I/O線程:該線程會(huì)連接到master,向log dump線程請(qǐng)求一份指定binlog文件位置的副本,并將請(qǐng)求回來的binlog存到本地的relay log中,relay log和binlog日志一樣也是記錄了數(shù)據(jù)更新的事件,它也是按照遞增后綴名的方式,產(chǎn)生多個(gè)relay log( host_name-relay-bin.000001)文件,slave會(huì)使用一個(gè)index文件( host_name-relay-bin.index)來追蹤當(dāng)前正在使用的relay log文件。
(3)SQL線程:該線程檢測(cè)到relay log有更新后,會(huì)讀取并在本地做redo操作,將發(fā)生在主庫(kù)的事件在本地重新執(zhí)行一遍,來保證主從數(shù)據(jù)同步。此外,如果一個(gè)relay log文件中的全部事件都執(zhí)行完畢,那么SQL線程會(huì)自動(dòng)將該relay log 文件刪除掉。
下面是整個(gè)復(fù)制過程的原理圖:
四、主從同步延遲
mysql的主從復(fù)制都是單線程的操作,主庫(kù)對(duì)所有DDL和DML產(chǎn)生binlog,binlog是順序?qū)?,所以效率很高,slave的I/O線程到主庫(kù)取日志,效率也比較高,但是,slave的SQL線程將主庫(kù)的DDL和DML操作在slave實(shí)施。DML和DDL的IO操作是隨即的,不是順序的,成本高很多,還可能存在slave上的其他查詢產(chǎn)生lock爭(zhēng)用的情況,由于SQL也是單線程的,所以一個(gè)DDL卡住了,需要執(zhí)行很長(zhǎng)一段事件,后續(xù)的DDL線程會(huì)等待這個(gè)DDL執(zhí)行完畢之后才執(zhí)行,這就導(dǎo)致了延時(shí)。當(dāng)主庫(kù)的TPS并發(fā)較高時(shí),產(chǎn)生的DDL數(shù)量超過slave一個(gè)sql線程所能承受的范圍,延時(shí)就產(chǎn)生了,除此之外,還有可能與slave的大型query語句產(chǎn)生了鎖等待導(dǎo)致。
由于主從同步延遲是客觀存在的,我們只能從我們自己的架構(gòu)上進(jìn)行設(shè)計(jì), 盡量讓主庫(kù)的DDL快速執(zhí)行。下面列出幾種常見的解決方案:

我們?cè)谖⑿派?4小時(shí)期待你的聲音
解答本文疑問/技術(shù)咨詢/運(yùn)營(yíng)咨詢/技術(shù)建議/互聯(lián)網(wǎng)交流