1 引言
MySQL可以恢復(fù)到半個(gè)月內(nèi)任意一秒的狀態(tài)。
MySQL里面最重要的兩個(gè)日志，即物理日志redo log和邏輯日志binlog。
在一個(gè)表上有更新的時(shí)候，跟這個(gè)表有關(guān)的查詢(xún)緩存會(huì)失效，所以這條語(yǔ)句就會(huì)把表T上所有緩存結(jié)果都清空。這也就是我們一般不建議使用查詢(xún)緩存的原因。
與查詢(xún)流程不一樣的是，更新流程還涉及兩個(gè)重要的日志模塊，：redo log（重做日志）和 binlog（歸檔日志）。
2 重要的日志模塊：redo log
InnoDB引擎提供。物理日志，記錄的是“在某個(gè)數(shù)據(jù)頁(yè)上做了什么修改”。
故事：
不知道你還記不記得《孔乙己》這篇文章，酒店掌柜有一個(gè)粉板，專(zhuān)門(mén)用來(lái)記錄客人的賒賬記錄。如果賒賬的人不多，那么他可以把顧客名和賬目寫(xiě)在板上。但如果賒賬的人多了，粉板總會(huì)有記不下的時(shí)候，這個(gè)時(shí)候掌柜一定還有一個(gè)專(zhuān)門(mén)記錄賒賬的賬本。
如果有人要賒賬或者還賬的話(huà)，掌柜一般有兩種做法：
- 一種做法是直接把賬本翻出來(lái)，把這次賒的賬加上去或者扣除掉；
- 另一種做法是先在粉板上記下這次的賬，等打烊以后再把賬本翻出來(lái)核算。
在生意紅火柜臺(tái)很忙時(shí)，掌柜一定會(huì)選擇后者，因?yàn)榍罢卟僮鲗?shí)在是太麻煩了。首先，你得找到這個(gè)人的賒賬總額那條記錄。你想想，密密麻麻幾十頁(yè)，掌柜要找到那個(gè)名字，可能還得帶上老花鏡慢慢找，找到之后再拿出算盤(pán)計(jì)算，最后再將結(jié)果寫(xiě)回到賬本上。
這整個(gè)過(guò)程想想都麻煩。相比之下，還是先在粉板上記一下方便。你想想，如果掌柜沒(méi)有粉板的幫助，每次記賬都得翻賬本，效率是不是低得讓人難以忍受？
同樣，在MySQL里也有這個(gè)問(wèn)題，如果每一次的更新操作都需要寫(xiě)進(jìn)磁盤(pán)，然后磁盤(pán)也要找到對(duì)應(yīng)的那條記錄，然后再更新，整個(gè)過(guò)程IO成本、查找成本都很高。為了解決這個(gè)問(wèn)題，MySQL的設(shè)計(jì)者就用了類(lèi)似酒店掌柜粉板的思路來(lái)提升更新效率。
而粉板和賬本配合的整個(gè)過(guò)程，其實(shí)就是MySQL里經(jīng)常說(shuō)到的WAL技術(shù)，WAL的全稱(chēng)是Write-Ahead Logging，它的關(guān)鍵點(diǎn)就是先寫(xiě)日志，再寫(xiě)磁盤(pán)，也就是先寫(xiě)粉板，等不忙的時(shí)候再寫(xiě)賬本。
具體來(lái)說(shuō)，當(dāng)有一條記錄需要更新的時(shí)候，InnoDB引擎就會(huì)先把記錄寫(xiě)到redo log（粉板）里面，并更新內(nèi)存，這個(gè)時(shí)候更新就算完成了。同時(shí)，InnoDB引擎會(huì)在適當(dāng)?shù)臅r(shí)候，將這個(gè)操作記錄更新到磁盤(pán)里面，而這個(gè)更新往往是在系統(tǒng)比較空閑的時(shí)候做，這就像打烊以后掌柜做的事。
如果今天賒賬的不多，掌柜可以等打烊后再整理。但如果某天賒賬的特別多，粉板寫(xiě)滿(mǎn)了，又怎么辦呢？這個(gè)時(shí)候掌柜只好放下手中的活兒，把粉板中的一部分賒賬記錄更新到賬本中，然后把這些記錄從粉板上擦掉，為記新賬騰出空間。
與此類(lèi)似，InnoDB的redo log是固定大小的，比如可以配置為一組4個(gè)文件，每個(gè)文件的大小是1GB，那么這塊“粉板”總共就可以記錄4GB的操作。從頭開(kāi)始寫(xiě)，寫(xiě)到末尾就又回到開(kāi)頭循環(huán)寫(xiě)，如下面這個(gè)圖所示。
write pos是當(dāng)前記錄的位置，一邊寫(xiě)一邊后移，寫(xiě)到第3號(hào)文件末尾后就回到0號(hào)文件開(kāi)頭。checkpoint是當(dāng)前要擦除的位置，也是往后推移并且循環(huán)的，擦除記錄前要把記錄更新到數(shù)據(jù)文件。
write pos和checkpoint之間的是“粉板”上還空著的部分，可以用來(lái)記錄新的操作。如果write pos追上checkpoint，表示“粉板”滿(mǎn)了，這時(shí)候不能再執(zhí)行新的更新，得停下來(lái)先擦掉一些記錄，把checkpoint推進(jìn)一下。
有了redo log，InnoDB就可以保證即使數(shù)據(jù)庫(kù)發(fā)生異常重啟，之前提交的記錄都不會(huì)丟失，這個(gè)能力稱(chēng)為crash-safe。
要理解crash-safe這個(gè)概念，可以想想我們前面賒賬記錄的例子。只要賒賬記錄記在了粉板上或?qū)懺诹速~本上，之后即使掌柜忘記了，比如突然停業(yè)幾天，恢復(fù)生意后依然可以通過(guò)賬本和粉板上的數(shù)據(jù)明確賒賬賬目。
3 重要的日志模塊：binlog
binlog有兩種模式，statement 格式的話(huà)是記sql語(yǔ)句， row格式會(huì)記錄行的內(nèi)容，記兩條，更新前和更新后都有。
redolog是循環(huán)寫(xiě)的，不持久保存，binlog的“歸檔”這個(gè)功能，redolog是不具備的。
前面我們講過(guò)，MySQL整體來(lái)看，其實(shí)就有兩塊：一塊是Server層，它主要做的是MySQL功能層面的事情；還有一塊是引擎層，負(fù)責(zé)存儲(chǔ)相關(guān)的具體事宜。上面我們聊到的粉板redo log是InnoDB引擎特有的日志，而Server層也有自己的日志，稱(chēng)為binlog（歸檔日志）。
我想你肯定會(huì)問(wèn)，為什么會(huì)有兩份日志呢？
因?yàn)樽铋_(kāi)始MySQL里并沒(méi)有InnoDB引擎。MySQL自帶的引擎是MyISAM，但是MyISAM沒(méi)有crash-safe的能力，binlog日志只能用于歸檔。而InnoDB是另一個(gè)公司以插件形式引入MySQL的，既然只依靠binlog是沒(méi)有crash-safe能力的，所以InnoDB使用另外一套日志系統(tǒng)——也就是redo log來(lái)實(shí)現(xiàn)crash-safe能力。
這兩種日志有以下三點(diǎn)不同。
- redo log是InnoDB引擎特有的；binlog是MySQL的Server層實(shí)現(xiàn)的，所有引擎都可以使用。
- redo log是物理日志，記錄的是“在某個(gè)數(shù)據(jù)頁(yè)上做了什么修改”；binlog是邏輯日志，記錄的是這個(gè)語(yǔ)句的原始邏輯，比如“給ID=2這一行的c字段加1 ”。
- redo log是循環(huán)寫(xiě)的，空間固定會(huì)用完；binlog是可以追加寫(xiě)入的。“追加寫(xiě)”是指binlog文件寫(xiě)到一定大小后會(huì)切換到下一個(gè)，并不會(huì)覆蓋以前的日志。
有了對(duì)這兩個(gè)日志的概念性理解，我們?cè)賮?lái)看執(zhí)行器和InnoDB引擎在執(zhí)行這個(gè)簡(jiǎn)單的update語(yǔ)句時(shí)的內(nèi)部流程。
- 執(zhí)行器先找引擎取ID=2這一行。ID是主鍵，引擎直接用樹(shù)搜索找到這一行。如果ID=2這一行所在的數(shù)據(jù)頁(yè)本來(lái)就在內(nèi)存中，就直接返回給執(zhí)行器；否則，需要先從磁盤(pán)讀入內(nèi)存，然后再返回。
- 執(zhí)行器拿到引擎給的行數(shù)據(jù)，把這個(gè)值加上1，比如原來(lái)是N，現(xiàn)在就是N+1，得到新的一行數(shù)據(jù)，再調(diào)用引擎接口寫(xiě)入這行新數(shù)據(jù)。
- 引擎將這行新數(shù)據(jù)更新到內(nèi)存中，同時(shí)將這個(gè)更新操作記錄到redo log里面，此時(shí)redo log處于prepare狀態(tài)。然后告知執(zhí)行器執(zhí)行完成了，隨時(shí)可以提交事務(wù)。
- 執(zhí)行器生成這個(gè)操作的binlog，并把binlog寫(xiě)入磁盤(pán)。
- 執(zhí)行器調(diào)用引擎的提交事務(wù)接口，引擎把剛剛寫(xiě)入的redo log改成提交（commit）狀態(tài)，更新完成。
這里我給出這個(gè)update語(yǔ)句的執(zhí)行流程圖，圖中淺色框表示是在InnoDB內(nèi)部執(zhí)行的，深色框表示是在執(zhí)行器中執(zhí)行的。
你可能注意到了，最后三步看上去有點(diǎn)“繞”，將redo log的寫(xiě)入拆成了兩個(gè)步驟：prepare和commit，這就是"兩階段提交"。
4 兩階段提交
為什么必須有“兩階段提交”呢？這是為了讓兩份日志之間的邏輯一致。要說(shuō)明這個(gè)問(wèn)題，我們得從文章開(kāi)頭的那個(gè)問(wèn)題說(shuō)起：怎樣讓數(shù)據(jù)庫(kù)恢復(fù)到半個(gè)月內(nèi)任意一秒的狀態(tài)？
前面我們說(shuō)過(guò)了，binlog會(huì)記錄所有的邏輯操作，并且是采用“追加寫(xiě)”的形式。如果你的DBA承諾說(shuō)半個(gè)月內(nèi)可以恢復(fù)，那么備份系統(tǒng)中一定會(huì)保存最近半個(gè)月的所有binlog，同時(shí)系統(tǒng)會(huì)定期做整庫(kù)備份。這里的“定期”取決于系統(tǒng)的重要性，可以是一天一備，也可以是一周一備。
當(dāng)需要恢復(fù)到指定的某一秒時(shí)，比如某天下午兩點(diǎn)發(fā)現(xiàn)中午十二點(diǎn)有一次誤刪表，需要找回?cái)?shù)據(jù)，那你可以這么做：
首先，找到最近的一次全量備份，如果你運(yùn)氣好，可能就是昨天晚上的一個(gè)備份，從這個(gè)備份恢復(fù)到臨時(shí)庫(kù)；
然后，從備份的時(shí)間點(diǎn)開(kāi)始，將備份的binlog依次取出來(lái)，重放到中午誤刪表之前的那個(gè)時(shí)刻。
這樣你的臨時(shí)庫(kù)就跟誤刪之前的線(xiàn)上庫(kù)一樣了，然后你可以把表數(shù)據(jù)從臨時(shí)庫(kù)取出來(lái)，按需要恢復(fù)到線(xiàn)上庫(kù)去。
好了，說(shuō)完了數(shù)據(jù)恢復(fù)過(guò)程，我們回來(lái)說(shuō)說(shuō)，為什么日志需要“兩階段提交”。這里不妨用反證法來(lái)進(jìn)行解釋。
由于redo log和binlog是兩個(gè)獨(dú)立的邏輯，如果不用兩階段提交，要么就是先寫(xiě)完redo log再寫(xiě)binlog，或者采用反過(guò)來(lái)的順序。我們看看這兩種方式會(huì)有什么問(wèn)題？
仍然用前面的update語(yǔ)句來(lái)做例子。假設(shè)當(dāng)前ID=2的行，字段c的值是0，再假設(shè)執(zhí)行update語(yǔ)句過(guò)程中在寫(xiě)完第一個(gè)日志后，第二個(gè)日志還沒(méi)有寫(xiě)完期間發(fā)生了crash，會(huì)出現(xiàn)什么情況呢？
先寫(xiě)redo log后寫(xiě)binlog。假設(shè)在redo log寫(xiě)完，binlog還沒(méi)有寫(xiě)完的時(shí)候，MySQL進(jìn)程異常重啟。由于我們前面說(shuō)過(guò)的，redo log寫(xiě)完之后，系統(tǒng)即使崩潰，仍然能夠把數(shù)據(jù)恢復(fù)回來(lái)，所以恢復(fù)后這一行c的值是1。
但是由于binlog沒(méi)寫(xiě)完就crash了，這時(shí)候binlog里面就沒(méi)有記錄這個(gè)語(yǔ)句。因此，之后備份日志的時(shí)候，存起來(lái)的binlog里面就沒(méi)有這條語(yǔ)句。
然后你會(huì)發(fā)現(xiàn)，如果需要用這個(gè)binlog來(lái)恢復(fù)臨時(shí)庫(kù)的話(huà)，由于這個(gè)語(yǔ)句的binlog丟失，這個(gè)臨時(shí)庫(kù)就會(huì)少了這一次更新，恢復(fù)出來(lái)的這一行c的值就是0，與原庫(kù)的值不同。
先寫(xiě)binlog后寫(xiě)redo log。如果在binlog寫(xiě)完之后crash，由于redo log還沒(méi)寫(xiě)，崩潰恢復(fù)以后這個(gè)事務(wù)無(wú)效，所以這一行c的值是0。但是binlog里面已經(jīng)記錄了“把c從0改成1”這個(gè)日志。所以，在之后用binlog來(lái)恢復(fù)的時(shí)候就多了一個(gè)事務(wù)出來(lái)，恢復(fù)出來(lái)的這一行c的值就是1，與原庫(kù)的值不同。
可以看到，如果不使用“兩階段提交”，那么數(shù)據(jù)庫(kù)的狀態(tài)就有可能和用它的日志恢復(fù)出來(lái)的庫(kù)的狀態(tài)不一致。
你可能會(huì)說(shuō)，這個(gè)概率是不是很低，平時(shí)也沒(méi)有什么動(dòng)不動(dòng)就需要恢復(fù)臨時(shí)庫(kù)的場(chǎng)景呀？
其實(shí)不是的，不只是誤操作后需要用這個(gè)過(guò)程來(lái)恢復(fù)數(shù)據(jù)。當(dāng)你需要擴(kuò)容的時(shí)候，也就是需要再多搭建一些備庫(kù)來(lái)增加系統(tǒng)的讀能力的時(shí)候，現(xiàn)在常見(jiàn)的做法也是用全量備份加上應(yīng)用binlog來(lái)實(shí)現(xiàn)的，這個(gè)“不一致”就會(huì)導(dǎo)致你的線(xiàn)上出現(xiàn)主從數(shù)據(jù)庫(kù)不一致的情況。
簡(jiǎn)單說(shuō)，redo log和binlog都可以用于表示事務(wù)的提交狀態(tài)，而兩階段提交就是讓這兩個(gè)狀態(tài)保持邏輯上的一致。
5 小結(jié)
MySQL里面最重要的兩個(gè)日志，即物理日志redo log和邏輯日志binlog。
redo log用于保證crash-safe能力。innodb_flush_log_at_trx_commit這個(gè)參數(shù)設(shè)置成1的時(shí)候，表示每次事務(wù)的redo log都直接持久化到磁盤(pán)。這個(gè)參數(shù)我建議你設(shè)置成1，這樣可以保證MySQL異常重啟之后數(shù)據(jù)不丟失。
sync_binlog這個(gè)參數(shù)設(shè)置成1的時(shí)候，表示每次事務(wù)的binlog都持久化到磁盤(pán)。這個(gè)參數(shù)我也建議你設(shè)置成1，這樣可以保證MySQL異常重啟之后binlog不丟失。
我還跟你介紹了與MySQL日志系統(tǒng)密切相關(guān)的“兩階段提交”。兩階段提交是跨系統(tǒng)維持?jǐn)?shù)據(jù)邏輯一致性時(shí)常用的一個(gè)方案，即使你不做數(shù)據(jù)庫(kù)內(nèi)核開(kāi)發(fā)，日常開(kāi)發(fā)中也有可能會(huì)用到。
前面說(shuō)到定期全量備份的周期“取決于系統(tǒng)重要性，有的是一天一備，有的是一周一備”。那么在什么場(chǎng)景下，一天一備會(huì)比一周一備更有優(yōu)勢(shì)呢？或者說(shuō)，它影響了這個(gè)數(shù)據(jù)庫(kù)系統(tǒng)的哪個(gè)指標(biāo)？
好處是“最長(zhǎng)恢復(fù)時(shí)間”更短。
在一天一備的模式里，最壞情況下需要應(yīng)用一天的binlog。比如，你每天0點(diǎn)做一次全量備份，而要恢復(fù)出一個(gè)到昨天晚上23點(diǎn)的備份。
一周一備最壞情況就要應(yīng)用一周的binlog了。
系統(tǒng)的對(duì)應(yīng)指標(biāo)就是RTO（恢復(fù)目標(biāo)時(shí)間）。
當(dāng)然這個(gè)是有成本的，因?yàn)楦l繁全量備份需要消耗更多存儲(chǔ)空間，所以這個(gè)RTO是成本換來(lái)的，就需要你根據(jù)業(yè)務(wù)重要性來(lái)評(píng)估了。
正常執(zhí)行是要commit 才算完，但是崩潰恢復(fù)過(guò)程的話(huà)，可以接受“redolog prepare 并且binlog完整” 的情況。
Binlog如果已經(jīng)接受，那么redolog是prepare, binlog已經(jīng)完整了對(duì)吧，這時(shí)候崩潰恢復(fù)過(guò)程會(huì)認(rèn)可這個(gè)事務(wù)，提交掉。
1 prepare階段 2 寫(xiě)binlog 3 commit
當(dāng)在2之前崩潰時(shí)
重啟恢復(fù)：后發(fā)現(xiàn)沒(méi)有commit，回滾。備份恢復(fù)：沒(méi)有binlog 。
一致
當(dāng)在3之前崩潰
重啟恢復(fù)：雖沒(méi)有commit，但滿(mǎn)足prepare和binlog完整，所以重啟后會(huì)自動(dòng)commit。備份：有binlog. 一致
我理解備份就是救命藥加后悔藥，災(zāi)難發(fā)生的時(shí)候備份能救命，出現(xiàn)錯(cuò)誤的時(shí)候備份能后悔。事情都有兩面性，沒(méi)有誰(shuí)比誰(shuí)好，只有誰(shuí)比誰(shuí)合適，完全看業(yè)務(wù)情況和需求而定。一天一備恢復(fù)時(shí)間更短，binlog更少，救命時(shí)候更快，但是后悔時(shí)間更短，而一周一備正好相反。我自己的備份策略是設(shè)置一個(gè)16小時(shí)延遲復(fù)制的從庫(kù)，充當(dāng)后悔藥，恢復(fù)時(shí)間也較快。再兩天一個(gè)全備庫(kù)和binlog，作為救命藥,最后時(shí)刻用。這樣就比較兼顧了。
1.首先客戶(hù)端通過(guò)tcp/ip發(fā)送一條sql語(yǔ)句到server層的SQL interface
2.SQL interface接到該請(qǐng)求后，先對(duì)該條語(yǔ)句進(jìn)行解析，驗(yàn)證權(quán)限是否匹配
3.驗(yàn)證通過(guò)以后，分析器會(huì)對(duì)該語(yǔ)句分析,是否語(yǔ)法有錯(cuò)誤等
4.接下來(lái)是優(yōu)化器器生成相應(yīng)的執(zhí)行計(jì)劃，選擇最優(yōu)的執(zhí)行計(jì)劃
5.之后會(huì)是執(zhí)行器根據(jù)執(zhí)行計(jì)劃執(zhí)行這條語(yǔ)句。在這一步會(huì)去open table,如果該table上有MDL，則等待。
如果沒(méi)有，則加在該表上加短暫的MDL(S)
(如果opend_table太大,表明open_table_cache太小。需要不停的去打開(kāi)frm文件)
6.進(jìn)入到引擎層，首先會(huì)去innodb_buffer_pool里的data dictionary(元數(shù)據(jù)信息)得到表信息
7.通過(guò)元數(shù)據(jù)信息,去lock info里查出是否會(huì)有相關(guān)的鎖信息，并把這條update語(yǔ)句需要的鎖信息寫(xiě)入到lock info里(鎖這里還有待補(bǔ)充)
8.然后涉及到的老數(shù)據(jù)通過(guò)快照的方式存儲(chǔ)到innodb_buffer_pool里的undo page里,并且記錄undo log修改的redo
(如果data page里有就直接載入到undo page里，如果沒(méi)有，則需要去磁盤(pán)里取出相應(yīng)page的數(shù)據(jù)，載入到undo page里)
9.在innodb_buffer_pool的data page做update操作。并把操作的物理數(shù)據(jù)頁(yè)修改記錄到redo log buffer里
由于update這個(gè)事務(wù)會(huì)涉及到多個(gè)頁(yè)面的修改，所以redo log buffer里會(huì)記錄多條頁(yè)面的修改信息。
因?yàn)間roup commit的原因，這次事務(wù)所產(chǎn)生的redo log buffer可能會(huì)跟隨其它事務(wù)一同flush并且sync到磁盤(pán)上
10.同時(shí)修改的信息，會(huì)按照event的格式,記錄到binlog_cache中。(這里注意binlog_cache_size是transaction級(jí)別的,不是session級(jí)別的參數(shù),
一旦commit之后，dump線(xiàn)程會(huì)從binlog_cache里把event主動(dòng)發(fā)送給slave的I/O線(xiàn)程)
11.之后把這條sql,需要在二級(jí)索引上做的修改，寫(xiě)入到change buffer page，等到下次有其他sql需要讀取該二級(jí)索引時(shí)，再去與二級(jí)索引做merge
(隨機(jī)I/O變?yōu)轫樞騃/O,但是由于現(xiàn)在的磁盤(pán)都是SSD,所以對(duì)于尋址來(lái)說(shuō),隨機(jī)I/O和順序I/O差距不大)
12.此時(shí)update語(yǔ)句已經(jīng)完成，需要commit或者rollback。這里討論commit的情況，并且雙1
13.commit操作，由于存儲(chǔ)引擎層與server層之間采用的是內(nèi)部XA(保證兩個(gè)事務(wù)的一致性,這里主要保證redo log和binlog的原子性),
所以提交分為prepare階段與commit階段
14.prepare階段,將事務(wù)的xid寫(xiě)入，將binlog_cache里的進(jìn)行flush以及sync操作(大事務(wù)的話(huà)這步非常耗時(shí))
15.commit階段，由于之前該事務(wù)產(chǎn)生的redo log已經(jīng)sync到磁盤(pán)了。所以這步只是在redo log里標(biāo)記commit
16.當(dāng)binlog和redo log都已經(jīng)落盤(pán)以后，如果觸發(fā)了刷新臟頁(yè)的操作，先把該臟頁(yè)復(fù)制到doublewrite buffer里，把doublewrite buffer里的刷新到共享表空間，然后才是通過(guò)page cleaner線(xiàn)程把臟頁(yè)寫(xiě)入到磁盤(pán)中
