通過(guò)對(duì)一句 updata 語(yǔ)句，來(lái)解析 Mysql 的日志系統(tǒng)。

例如我們創(chuàng)建了表 T, 如下命令：

mysql> create table T(ID int primary key, c int);

更新語(yǔ)句：

mysql> update T set c=c+1 where ID=2;

更新語(yǔ)句也會(huì)同查詢語(yǔ)句一樣，通過(guò)連接器、分析器、優(yōu)化器、執(zhí)行器；最后到達(dá)存儲(chǔ)引擎。

流程

執(zhí)行語(yǔ)句前要先連接數(shù)據(jù)庫(kù)，這是連接器的工作。

在一個(gè)表上有更新的時(shí)候，跟這個(gè)表有關(guān)的查詢緩存會(huì)失效，所以這條語(yǔ)句就會(huì)把表 T 上所有緩存結(jié)果都清空。這也是一般不建議使用查詢緩存的原因。

接下來(lái)，分析器會(huì)通過(guò)詞法和語(yǔ)法解析知道這是一條更新語(yǔ)句。優(yōu)化器決定要使用 ID 這個(gè)索引。然后，執(zhí)行器負(fù)責(zé)具體執(zhí)行，找到這一行，然后更新。

與查詢流程不一樣的是，更新流程還涉及兩個(gè)重要的日志模塊：redo log（重做日志）和 binlog（歸檔日志）。如果接觸 MySQL ，那這兩個(gè)詞肯定是繞不過(guò)的。redo log 和 binlog 在設(shè)計(jì)上有很多有意思的地方，這些設(shè)計(jì)思路也可以用到自己的程序里

redo log

舉個(gè)例子：

酒店掌柜有一個(gè)粉板，專門用來(lái)記錄客人的賒賬記錄。如果賒賬的人不多，那么他可以把顧客名和賬目寫在板上。但如果賒賬的人多了，粉板總會(huì)有記不下的時(shí)候，這個(gè)時(shí)候掌柜一定還有一個(gè)專門記錄賒賬的賬本。
如果有人要賒賬或者還賬的話，掌柜一般有兩種做法：

• 一種做法是直接把賬本翻出來(lái)，把這次賒的賬加上去或者扣除掉；
• 另一種做法是先在粉板上記下這次的賬，等打烊以后再把賬本翻出來(lái)核算。

在生意紅火柜臺(tái)很忙時(shí)，掌柜會(huì)選擇后者，因?yàn)榍罢卟僮鲗?shí)在是太麻煩了。得找到這個(gè)人的賒賬總額那條記錄，找到之后再拿出算盤計(jì)算，最后再將結(jié)果寫回到賬本上。

相比之下，還是先在粉板上記一下方便。如果掌柜沒(méi)有粉板的幫助，每次記賬都得翻賬本，效率是不是低得讓人難以忍受？

MySQL 中 WAL 技術(shù)

同樣，在MySQL里也有這個(gè)問(wèn)題，如果每一次的更新操作都需要寫進(jìn)磁盤，然后磁盤也要找到對(duì)應(yīng)的那條記錄，然后再更新，整個(gè)過(guò)程IO成本、查找成本都很高。為了解決這個(gè)問(wèn)題，MySQL的設(shè)計(jì)者就用了類似酒店掌柜粉板的思路來(lái)提升更新效率。

而粉板和賬本配合的整個(gè)過(guò)程，其實(shí)就是MySQL里經(jīng)常說(shuō)到的 WAL 技術(shù)，WAL的全稱是 Write-Ahead Logging ，它的關(guān)鍵點(diǎn)就是先寫日志，再寫磁盤，也就是先寫粉板，等不忙的時(shí)候再寫賬本。

具體來(lái)說(shuō)，當(dāng)有一條記錄需要更新的時(shí)候，InnoDB引擎就會(huì)先把記錄寫到redo log（粉板）里面，并更新內(nèi)存，這個(gè)時(shí)候更新就算完成了。同時(shí)，InnoDB引擎會(huì)在適當(dāng)?shù)臅r(shí)候，將這個(gè)操作記錄更新到磁盤里面，而這個(gè)更新往往是在系統(tǒng)比較空閑的時(shí)候做，這就像打烊以后掌柜做的事。

如果今天賒賬的不多，掌柜可以等打烊后再整理。但如果某天賒賬的特別多，粉板寫滿了，又怎么辦呢？這個(gè)時(shí)候掌柜只好放下手中的活兒，把粉板中的一部分賒賬記錄更新到賬本中，然后把這些記錄從粉板上擦掉，為記新賬騰出空間。

與此類似，InnoDB的redo log是固定大小的，比如可以配置為一組4個(gè)文件，每個(gè)文件的大小是1GB，那么這塊“粉板”總共就可以記錄4GB的操作。從頭開(kāi)始寫，寫到末尾就又回到開(kāi)頭循環(huán)寫，如下面這個(gè)圖所示。

image.png

write pos 是當(dāng)前記錄的位置，一邊寫一邊后移，寫到第3號(hào)文件末尾后就回到0號(hào)文件開(kāi)頭。checkpoint 是當(dāng)前要擦除的位置，也是往后推移并且循環(huán)的，擦除記錄前要把記錄更新到數(shù)據(jù)文件。

write pos 和 checkpoint 之間的是“粉板”上還空著的部分，可以用來(lái)記錄新的操作。如果 write pos 追上 checkpoint ，表示“粉板”滿了，這時(shí)候不能再執(zhí)行新的更新，得停下來(lái)先擦掉一些記錄，把 checkpoint 推進(jìn)一下。

有了 redo log ，InnoDB 就可以保證即使數(shù)據(jù)庫(kù)發(fā)生異常重啟，之前提交的記錄都不會(huì)丟失，這個(gè)能力稱為 crash-safe 。

要理解 crash-safe 這個(gè)概念，可以想想我們前面賒賬記錄的例子。只要賒賬記錄記在了粉板上或?qū)懺诹速~本上，之后即使掌柜忘記了，比如突然停業(yè)幾天，恢復(fù)生意后依然可以通過(guò)賬本和粉板上的數(shù)據(jù)明確賒賬賬目。

binlog

前面我們講過(guò)，MySQL整體來(lái)看，其實(shí)就有兩塊：一塊是Server層，它主要做的是MySQL功能層面的事情；還有一塊是引擎層，負(fù)責(zé)存儲(chǔ)相關(guān)的具體事宜。上面我們聊到的粉板redo log是InnoDB引擎特有的日志，而Server層也有自己的日志，稱為binlog（歸檔日志）。

Binlog有兩種模式，statement 格式的話是記sql語(yǔ)句， row格式會(huì)記錄行的內(nèi)容，記兩條，更新前和更新后都有。

為什么會(huì)有兩份日志呢？

因?yàn)樽铋_(kāi)始MySQL里并沒(méi)有InnoDB引擎。MySQL自帶的引擎是 MyISAM ，但是MyISAM 沒(méi)有 crash-safe 的能力，binlog 日志只能用于歸檔。而 InnoDB 是另一個(gè)公司以插件形式引入 MySQL 的，既然只依靠 binlog 是沒(méi)有 crash-safe 能力的，所以 InnoDB 使用另外一套日志系統(tǒng)——也就是 redo log 來(lái)實(shí)現(xiàn) crash-safe 能力。

這兩種日志有以下三點(diǎn)不同。

1. redo log是InnoDB引擎特有的；binlog是MySQL的Server層實(shí)現(xiàn)的，所有引擎都可以使用。
2. redo log是物理日志，記錄的是“在某個(gè)數(shù)據(jù)頁(yè)上做了什么修改”；binlog是邏輯日志，記錄的是這個(gè)語(yǔ)句的原始邏輯，比如“給ID=2這一行的c字段加1 ”。
3. redo log是循環(huán)寫的，空間固定會(huì)用完；binlog是可以追加寫入的。“追加寫”是指binlog文件寫到一定大小后會(huì)切換到下一個(gè)，并不會(huì)覆蓋以前的日志。

有了對(duì)這兩個(gè)日志的概念性理解，我們?cè)賮?lái)看執(zhí)行器和 InnoDB 引擎在執(zhí)行這個(gè)簡(jiǎn)單的 update 語(yǔ)句時(shí)的內(nèi)部流程。

1. 執(zhí)行器先找引擎取 ID=2 這一行。 ID 是主鍵，引擎直接用樹(shù)搜索找到這一行。如果 ID=2 這一行所在的數(shù)據(jù)頁(yè)本來(lái)就在內(nèi)存中，就直接返回給執(zhí)行器；否則，需要先從磁盤讀入內(nèi)存，然后再返回。

2. 執(zhí)行器拿到引擎給的行數(shù)據(jù)，把這個(gè)值加上1，比如原來(lái)是 N ，現(xiàn)在就是 N+1 ，得到新的一行數(shù)據(jù)，再調(diào)用引擎接口寫入這行新數(shù)據(jù)。

3. 引擎將這行新數(shù)據(jù)更新到內(nèi)存中，同時(shí)將這個(gè)更新操作記錄到 redo log 里面，此時(shí)redo log 處于 prepare 狀態(tài)。然后告知執(zhí)行器執(zhí)行完成了，隨時(shí)可以提交事務(wù)。

4. 執(zhí)行器生成這個(gè)操作的 binlog ，并把 binlog 寫入磁盤。

5. 執(zhí)行器調(diào)用引擎的提交事務(wù)接口，引擎把剛剛寫入的redo log改成提交（commit）狀態(tài)，更新完成。

這里我給出這個(gè) update 語(yǔ)句的執(zhí)行流程圖，圖中淺色框表示是在 InnoDB 內(nèi)部執(zhí)行的，深色框表示是在執(zhí)行器中執(zhí)行的。

image.png

你可能注意到了，最后三步看上去有點(diǎn)“繞”，將 redo log 的寫入拆成了兩個(gè)步驟： prepare 和 commit ，這就是"兩階段提交"。

兩階段提交

為了讓兩份日志之間的邏輯一致。

1 prepare階段 -> 2 寫binlog -> 3 commit
當(dāng)在2之前崩潰時(shí)
重啟恢復(fù)：后發(fā)現(xiàn)沒(méi)有commit，回滾。備份恢復(fù)：沒(méi)有binlog 。
一致
當(dāng)在3之前崩潰
重啟恢復(fù)：雖沒(méi)有commit，但滿足prepare和binlog完整，所以重啟后會(huì)自動(dòng)commit。備份：有binlog. 一致

怎樣讓數(shù)據(jù)庫(kù)恢復(fù)到半個(gè)月內(nèi)任意一秒的狀態(tài)？

binlog 會(huì)記錄所有的邏輯操作，并且是采用“追加寫”的形式。如果你的DBA承諾說(shuō)半個(gè)月內(nèi)可以恢復(fù)，那么備份系統(tǒng)中一定會(huì)保存最近半個(gè)月的所有 binlog ，同時(shí)系統(tǒng)會(huì)定期做整庫(kù)備份。這里的“定期”取決于系統(tǒng)的重要性，可以是一天一備，也可以是一周一備。

當(dāng)需要恢復(fù)到指定的某一秒時(shí)，比如某天下午兩點(diǎn)發(fā)現(xiàn)中午十二點(diǎn)有一次誤刪表，需要找回?cái)?shù)據(jù)，那你可以這么做：

• 首先，找到最近的一次全量備份，如果你運(yùn)氣好，可能就是昨天晚上的一個(gè)備份，從這個(gè)備份恢復(fù)到臨時(shí)庫(kù)；
• 然后，從備份的時(shí)間點(diǎn)開(kāi)始，將備份的binlog依次取出來(lái)，重放到中午誤刪表之前的那個(gè)時(shí)刻。

這樣你的臨時(shí)庫(kù)就跟誤刪之前的線上庫(kù)一樣了，然后你可以把表數(shù)據(jù)從臨時(shí)庫(kù)取出來(lái)，按需要恢復(fù)到線上庫(kù)去。

為什么日志需要“兩階段提交”。這里用反證法來(lái)進(jìn)行解釋。

由于 redo log 和 binlog 是兩個(gè)獨(dú)立的邏輯，如果不用兩階段提交，要么就是先寫完 redo log 再寫 binlog，或者采用反過(guò)來(lái)的順序。我們看看這兩種方式會(huì)有什么問(wèn)題。

仍然用前面的update語(yǔ)句來(lái)做例子。假設(shè)當(dāng)前 ID=2 的行，字段 c 的值是 0 ，再假設(shè)執(zhí)行 update 語(yǔ)句過(guò)程中在寫完第一個(gè)日志后，第二個(gè)日志還沒(méi)有寫完期間發(fā)生了crash，會(huì)出現(xiàn)什么情況呢？

1. 先寫 redo log 后寫 binlog 。假設(shè)在 redo log 寫完，binlog 還沒(méi)有寫完的時(shí)候，MySQL 進(jìn)程異常重啟。由于我們前面說(shuō)過(guò)的，redo log 寫完之后，系統(tǒng)即使崩潰，仍然能夠把數(shù)據(jù)恢復(fù)回來(lái)，所以恢復(fù)后這一行c的值是1。
   但是由于 binlog 沒(méi)寫完就 crash 了，這時(shí)候 binlog 里面就沒(méi)有記錄這個(gè)語(yǔ)句。因此，之后備份日志的時(shí)候，存起來(lái)的binlog里面就沒(méi)有這條語(yǔ)句。
   然后你會(huì)發(fā)現(xiàn)，如果需要用這個(gè) binlog 來(lái)恢復(fù)臨時(shí)庫(kù)的話，由于這個(gè)語(yǔ)句的 binlog 丟失，這個(gè)臨時(shí)庫(kù)就會(huì)少了這一次更新，恢復(fù)出來(lái)的這一行c的值就是0，與原庫(kù)的值不同。

2. 先寫 binlog 后寫 redo log 。如果在 binlog 寫完之后 crash ，由于 redo log 還沒(méi)寫，崩潰恢復(fù)以后這個(gè)事務(wù)無(wú)效，所以這一行 c 的值是0。但是 binlog 里面已經(jīng)記錄了 “把c從0改成1” 這個(gè)日志。所以，在之后用 binlog 來(lái)恢復(fù)的時(shí)候就多了一個(gè)事務(wù)出來(lái)，恢復(fù)出來(lái)的這一行 c 的值就是1，與原庫(kù)的值不同。

可以看到，如果不使用“兩階段提交”，那么數(shù)據(jù)庫(kù)的狀態(tài)就有可能和用它的日志恢復(fù)出來(lái)的庫(kù)的狀態(tài)不一致。

你可能會(huì)說(shuō)，這個(gè)概率是不是很低，平時(shí)也沒(méi)有什么動(dòng)不動(dòng)就需要恢復(fù)臨時(shí)庫(kù)的場(chǎng)景呀？

其實(shí)不是的，不只是誤操作后需要用這個(gè)過(guò)程來(lái)恢復(fù)數(shù)據(jù)。當(dāng)你需要擴(kuò)容的時(shí)候，也就是需要再多搭建一些備庫(kù)來(lái)增加系統(tǒng)的讀能力的時(shí)候，現(xiàn)在常見(jiàn)的做法也是用全量備份加上應(yīng)用binlog來(lái)實(shí)現(xiàn)的，這個(gè)“不一致”就會(huì)導(dǎo)致你的線上出現(xiàn)主從數(shù)據(jù)庫(kù)不一致的情況。

簡(jiǎn)單說(shuō)，redo log和binlog都可以用于表示事務(wù)的提交狀態(tài)，而兩階段提交就是讓這兩個(gè)狀態(tài)保持邏輯上的一致。

小結(jié)

通過(guò)更新語(yǔ)句，介紹了 MySQL 里面最重要的兩個(gè)日志，即物理日志 redo log 和邏輯日志 binlog 。

redo log 用于保證 crash-safe 能力。innodb_flush_log_at_trx_commit 這個(gè)參數(shù)設(shè)置成1的時(shí)候，表示每次事務(wù)的redo log都直接持久化到磁盤。這個(gè)參數(shù)建議設(shè)置成1，這樣可以保證MySQL異常重啟之后數(shù)據(jù)不丟失。

sync_binlog這個(gè)參數(shù)設(shè)置成1的時(shí)候，表示每次事務(wù)的binlog都持久化到磁盤。這個(gè)參數(shù)建議設(shè)置成1，這樣可以保證 MySQL 異常重啟之后 binlog 不丟失。

MySQL日志系統(tǒng)密切相關(guān)的“兩階段提交”。兩階段提交是跨系統(tǒng)維持?jǐn)?shù)據(jù)邏輯一致性時(shí)常用的一個(gè)方案，即使你不做數(shù)據(jù)庫(kù)內(nèi)核開(kāi)發(fā)，日常開(kāi)發(fā)中也有可能會(huì)用到。

問(wèn)題

文章的最后，留下的問(wèn)題是一天一備跟一周一備的對(duì)比。

好處是“最長(zhǎng)恢復(fù)時(shí)間”更短。

在一天一備的模式里，最壞情況下需要應(yīng)用一天的binlog。比如，你每天0點(diǎn)做一次全量備份，而要恢復(fù)出一個(gè)到昨天晚上23點(diǎn)的備份。

一周一備最壞情況就要應(yīng)用一周的binlog了。

系統(tǒng)的對(duì)應(yīng)指標(biāo)就是提到的RTO（恢復(fù)目標(biāo)時(shí)間）。

當(dāng)然這個(gè)是有成本的，因?yàn)楦l繁全量備份需要消耗更多存儲(chǔ)空間，所以這個(gè)RTO是成本換來(lái)的，就需要你根據(jù)業(yè)務(wù)重要性來(lái)評(píng)估了。