文章出自極客時(shí)間《MySQL 實(shí)戰(zhàn) 45 講》專(zhuān)欄,作者是前阿里資深技術(shù)專(zhuān)家丁奇
下面給出的是 MySQL 的基本架構(gòu)示意圖,從中你可以清楚看到 SQL 語(yǔ)句在 MySQL 的各個(gè)功能模塊中的執(zhí)行過(guò)程。

大體來(lái)說(shuō),MySQL 可以分為 Server 層和存儲(chǔ)引擎層。
Server 層包括連接器、查詢(xún)緩存、分析器、優(yōu)化器、執(zhí)行器等,涵蓋 MySQL 的大多數(shù)核心服務(wù)功能,以及所有的內(nèi)置函數(shù)(如日期、時(shí)間、數(shù)學(xué)和加密函數(shù)等),所有跨存儲(chǔ)引擎的功能都在這一層實(shí)現(xiàn),比如存儲(chǔ)過(guò)程、觸發(fā)器、視圖等。
而存儲(chǔ)引擎層負(fù)責(zé)數(shù)據(jù)的存儲(chǔ)和提取。其架構(gòu)模式是插件式的,支持 InnoDB、MyISAM、Memory 等多個(gè)存儲(chǔ)引擎?,F(xiàn)在最常用的存儲(chǔ)引擎是 InnoDB,它從 MySQL 5.5.5 版本開(kāi)始成為了默認(rèn)存儲(chǔ)引擎。
也就是說(shuō),你執(zhí)行 create table 建表的時(shí)候,如果不指定引擎類(lèi)型,默認(rèn)使用的就是 InnoDB。不過(guò),你也可以通過(guò)指定存儲(chǔ)引擎的類(lèi)型來(lái)選擇別的引擎,比如在 create table 語(yǔ)句中使用 engine=memory, 來(lái)指定使用內(nèi)存引擎創(chuàng)建表。不同存儲(chǔ)引擎的表數(shù)據(jù)存取方式不同,支持的功能也不同,在后面的文章中,我們會(huì)討論到引擎的選擇。
從圖中不難看出,不同的存儲(chǔ)引擎共用一個(gè)Server 層,也就是從連接器到執(zhí)行器的部分。你可以先對(duì)每個(gè)組件的名字有個(gè)印象,接下來(lái)我會(huì)結(jié)合開(kāi)頭提到的那條 SQL 語(yǔ)句,帶你走一遍整個(gè)執(zhí)行流程,依次看下每個(gè)組件的作用。
連接器
第一步,你會(huì)先連接到這個(gè)數(shù)據(jù)庫(kù)上,這時(shí)候接待你的就是連接器。連接器負(fù)責(zé)跟客戶(hù)端建立連接、獲取權(quán)限、維持和管理連接。連接命令一般是這么寫(xiě)的:
mysql -h$ip -P$port -u$user -p
輸完命令之后,你就需要在交互對(duì)話(huà)里面輸入密碼。雖然密碼也可以直接跟在 -p 后面寫(xiě)在命令行中,但這樣可能會(huì)導(dǎo)致你的密碼泄露。如果你連的是生產(chǎn)服務(wù)器,強(qiáng)烈建議你不要這么做。
連接命令中的 mysql 是客戶(hù)端工具,用來(lái)跟服務(wù)端建立連接。在完成經(jīng)典的 TCP 握手后,連接器就要開(kāi)始認(rèn)證你的身份,這個(gè)時(shí)候用的就是你輸入的用戶(hù)名和密碼。
- 如果用戶(hù)名或密碼不對(duì),你就會(huì)收到一個(gè)"Access denied for user"的錯(cuò)誤,然后客戶(hù)端程序結(jié)束執(zhí)行。
- 如果用戶(hù)名密碼認(rèn)證通過(guò),連接器會(huì)到權(quán)限表里面查出你擁有的權(quán)限。之后,這個(gè)連接里面的權(quán)限判斷邏輯,都將依賴(lài)于此時(shí)讀到的權(quán)限。
這就意味著,一個(gè)用戶(hù)成功建立連接后,即使你用管理員賬號(hào)對(duì)這個(gè)用戶(hù)的權(quán)限做了修改,也不會(huì)影響已經(jīng)存在連接的權(quán)限。修改完成后,只有再新建的連接才會(huì)使用新的權(quán)限設(shè)置。
連接完成后,如果你沒(méi)有后續(xù)的動(dòng)作,這個(gè)連接就處于空閑狀態(tài),你可以在 show processlist 命令中看到它。文本中這個(gè)圖是 show processlist 的結(jié)果,其中的 Command 列顯示為“Sleep”的這一行,就表示現(xiàn)在系統(tǒng)里面有一個(gè)空閑連接。
客戶(hù)端如果太長(zhǎng)時(shí)間沒(méi)動(dòng)靜,連接器就會(huì)自動(dòng)將它斷開(kāi)。這個(gè)時(shí)間是由參數(shù) wait_timeout 控制的,默認(rèn)值是 8 小時(shí)。
如果在連接被斷開(kāi)之后,客戶(hù)端再次發(fā)送請(qǐng)求的話(huà),就會(huì)收到一個(gè)錯(cuò)誤提醒: Lost connection to MySQL server during query。這時(shí)候如果你要繼續(xù),就需要重連,然后再執(zhí)行請(qǐng)求了。
數(shù)據(jù)庫(kù)里面,長(zhǎng)連接是指連接成功后,如果客戶(hù)端持續(xù)有請(qǐng)求,則一直使用同一個(gè)連接。短連接則是指每次執(zhí)行完很少的幾次查詢(xún)就斷開(kāi)連接,下次查詢(xún)?cè)僦匦陆⒁粋€(gè)。
建立連接的過(guò)程通常是比較復(fù)雜的,所以我建議你在使用中要盡量減少建立連接的動(dòng)作,也就是盡量使用長(zhǎng)連接。
但是全部使用長(zhǎng)連接后,你可能會(huì)發(fā)現(xiàn),有些時(shí)候 MySQL 占用內(nèi)存漲得特別快,這是因?yàn)?MySQL 在執(zhí)行過(guò)程中臨時(shí)使用的內(nèi)存是管理在連接對(duì)象里面的。這些資源會(huì)在連接斷開(kāi)的時(shí)候才釋放。所以如果長(zhǎng)連接累積下來(lái),可能導(dǎo)致內(nèi)存占用太大,被系統(tǒng)強(qiáng)行殺掉(OOM),從現(xiàn)象看就是 MySQL 異常重啟了。
怎么解決這個(gè)問(wèn)題呢?你可以考慮以下兩種方案。
1.定期斷開(kāi)長(zhǎng)連接。使用一段時(shí)間,或者程序里面判斷執(zhí)行過(guò)一個(gè)占用內(nèi)存的大查詢(xún)后,斷開(kāi)連接,之后要查詢(xún)?cè)僦剡B。
2.如果你用的是 MySQL 5.7 或更新版本,可以在每次執(zhí)行一個(gè)比較大的操作后,通過(guò)執(zhí)行 mysql_reset_connection 來(lái)重新初始化連接資源。這個(gè)過(guò)程不需要重連和重新做權(quán)限驗(yàn)證,但是會(huì)將連接恢復(fù)到剛剛創(chuàng)建完時(shí)的狀態(tài)。
查詢(xún)緩存
連接建立完成后,你就可以執(zhí)行 select 語(yǔ)句了。執(zhí)行邏輯就會(huì)來(lái)到第二步:查詢(xún)緩存。
MySQL 拿到一個(gè)查詢(xún)請(qǐng)求后,會(huì)先到查詢(xún)緩存看看,之前是不是執(zhí)行過(guò)這條語(yǔ)句。之前執(zhí)行過(guò)的語(yǔ)句及其結(jié)果可能會(huì)以 key-value 對(duì)的形式,被直接緩存在內(nèi)存中。key 是查詢(xún)的語(yǔ)句,value 是查詢(xún)的結(jié)果。如果你的查詢(xún)能夠直接在這個(gè)緩存中找到 key,那么這個(gè) value 就會(huì)被直接返回給客戶(hù)端。
如果語(yǔ)句不在查詢(xún)緩存中,就會(huì)繼續(xù)后面的執(zhí)行階段。執(zhí)行完成后,執(zhí)行結(jié)果會(huì)被存入查詢(xún)緩存中。你可以看到,如果查詢(xún)命中緩存,MySQL 不需要執(zhí)行后面的復(fù)雜操作,就可以直接返回結(jié)果,這個(gè)效率會(huì)很高。
但是大多數(shù)情況下我會(huì)建議你不要使用查詢(xún)緩存,為什么呢?因?yàn)椴樵?xún)緩存往往弊大于利。
查詢(xún)緩存的失效非常頻繁,只要有對(duì)一個(gè)表的更新,這個(gè)表上所有的查詢(xún)緩存都會(huì)被清空。因此很可能你費(fèi)勁地把結(jié)果存起來(lái),還沒(méi)使用呢,就被一個(gè)更新全清空了。對(duì)于更新壓力大的數(shù)據(jù)庫(kù)來(lái)說(shuō),查詢(xún)緩存的命中率會(huì)非常低。除非你的業(yè)務(wù)就是有一張靜態(tài)表,很長(zhǎng)時(shí)間才會(huì)更新一次。比如,一個(gè)系統(tǒng)配置表,那這張表上的查詢(xún)才適合使用查詢(xún)緩存。
好在 MySQL 也提供了這種“按需使用”的方式。你可以將參數(shù) query_cache_type 設(shè)置成 DEMAND,這樣對(duì)于默認(rèn)的 SQL 語(yǔ)句都不使用查詢(xún)緩存。而對(duì)于你確定要使用查詢(xún)緩存的語(yǔ)句,可以用 SQL_CACHE 顯式指定,像下面這個(gè)語(yǔ)句一樣:
mysql> select SQL_CACHE * from T where ID=10;
需要注意的是,MySQL 8.0 版本直接將查詢(xún)緩存的整塊功能刪掉了,也就是說(shuō) 8.0 開(kāi)始徹底沒(méi)有這個(gè)功能了。
分析器
如果沒(méi)有命中查詢(xún)緩存,就要開(kāi)始真正執(zhí)行語(yǔ)句了。首先,MySQL 需要知道你要做什么,因此需要對(duì) SQL 語(yǔ)句做解析。
分析器先會(huì)做“詞法分析”。你輸入的是由多個(gè)字符串和空格組成的一條 SQL 語(yǔ)句,MySQL 需要識(shí)別出里面的字符串分別是什么,代表什么。
MySQL 從你輸入的"select"這個(gè)關(guān)鍵字識(shí)別出來(lái),這是一個(gè)查詢(xún)語(yǔ)句。它也要把字符串“T”識(shí)別成“表名 T”,把字符串“ID”識(shí)別成“列 ID”。
做完了這些識(shí)別以后,就要做“語(yǔ)法分析”。根據(jù)詞法分析的結(jié)果,語(yǔ)法分析器會(huì)根據(jù)語(yǔ)法規(guī)則,判斷你輸入的這個(gè) SQL 語(yǔ)句是否滿(mǎn)足 MySQL 語(yǔ)法。
如果你的語(yǔ)句不對(duì),就會(huì)收到“You have an error in your SQL syntax”的錯(cuò)誤提醒,比如下面這個(gè)語(yǔ)句 select 少打了開(kāi)頭的字母“s”。
mysql> elect * from t where ID=1;
ERROR 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near 'elect * from t where ID=1' at line 1
一般語(yǔ)法錯(cuò)誤會(huì)提示第一個(gè)出現(xiàn)錯(cuò)誤的位置,所以你要關(guān)注的是緊接“use near”的內(nèi)容。
優(yōu)化器
經(jīng)過(guò)了分析器,MySQL 就知道你要做什么了。在開(kāi)始執(zhí)行之前,還要先經(jīng)過(guò)優(yōu)化器的處理。
優(yōu)化器是在表里面有多個(gè)索引的時(shí)候,決定使用哪個(gè)索引;或者在一個(gè)語(yǔ)句有多表關(guān)聯(lián)(join)的時(shí)候,決定各個(gè)表的連接順序。比如你執(zhí)行下面這樣的語(yǔ)句,這個(gè)語(yǔ)句是執(zhí)行兩個(gè)表的 join:
mysql> select * from t1 join t2 using(ID) where t1.c=10 and t2.d=20;
- 既可以先從表 t1 里面取出 c=10 的記錄的 ID 值,再根據(jù) ID 值關(guān)聯(lián)到表 t2,再判斷 t2 里面 d 的值是否等于 20。
- 也可以先從表 t2 里面取出 d=20 的記錄的 ID 值,再根據(jù) ID 值關(guān)聯(lián)到 t1,再判斷 t1 里面 c 的值是否等于 10。
這兩種執(zhí)行方法的邏輯結(jié)果是一樣的,但是執(zhí)行的效率會(huì)有不同,而優(yōu)化器的作用就是決定選擇使用哪一個(gè)方案。
優(yōu)化器階段完成后,這個(gè)語(yǔ)句的執(zhí)行方案就確定下來(lái)了,然后進(jìn)入執(zhí)行器階段。如果你還有一些疑問(wèn),比如優(yōu)化器是怎么選擇索引的,有沒(méi)有可能選擇錯(cuò)等等,沒(méi)關(guān)系,我會(huì)在后面的文章中單獨(dú)展開(kāi)說(shuō)明優(yōu)化器的內(nèi)容。
執(zhí)行器
MySQL 通過(guò)分析器知道了你要做什么,通過(guò)優(yōu)化器知道了該怎么做,于是就進(jìn)入了執(zhí)行器階段,開(kāi)始執(zhí)行語(yǔ)句。
開(kāi)始執(zhí)行的時(shí)候,要先判斷一下你對(duì)這個(gè)表 T 有沒(méi)有執(zhí)行查詢(xún)的權(quán)限,如果沒(méi)有,就會(huì)返回沒(méi)有權(quán)限的錯(cuò)誤,如下所示 (在工程實(shí)現(xiàn)上,如果命中查詢(xún)緩存,會(huì)在查詢(xún)緩存返回結(jié)果的時(shí)候,做權(quán)限驗(yàn)證。查詢(xún)也會(huì)在優(yōu)化器之前調(diào)用 precheck 驗(yàn)證權(quán)限)。
mysql> select * from T where ID=10;
ERROR 1142 (42000): SELECT command denied to user 'b'@'localhost' for table 'T'
如果有權(quán)限,就打開(kāi)表繼續(xù)執(zhí)行。打開(kāi)表的時(shí)候,執(zhí)行器就會(huì)根據(jù)表的引擎定義,去使用這個(gè)引擎提供的接口。
比如我們這個(gè)例子中的表 T 中,ID 字段沒(méi)有索引,那么執(zhí)行器的執(zhí)行流程是這樣的:
- 調(diào)用 InnoDB 引擎接口取這個(gè)表的第一行,判斷 ID 值是不是 10,如果不是則跳過(guò),如果是則將這行存在結(jié)果集中;
- 調(diào)用引擎接口取“下一行”,重復(fù)相同的判斷邏輯,直到取到這個(gè)表的最后一行。
- 執(zhí)行器將上述遍歷過(guò)程中所有滿(mǎn)足條件的行組成的記錄集作為結(jié)果集返回給客戶(hù)端。
至此,這個(gè)語(yǔ)句就執(zhí)行完成了。
對(duì)于有索引的表,執(zhí)行的邏輯也差不多。第一次調(diào)用的是“取滿(mǎn)足條件的第一行”這個(gè)接口,之后循環(huán)取“滿(mǎn)足條件的下一行”這個(gè)接口,這些接口都是引擎中已經(jīng)定義好的。
你會(huì)在數(shù)據(jù)庫(kù)的慢查詢(xún)?nèi)罩局锌吹揭粋€(gè) rows_examined 的字段,表示這個(gè)語(yǔ)句執(zhí)行過(guò)程中掃描了多少行。這個(gè)值就是在執(zhí)行器每次調(diào)用引擎獲取數(shù)據(jù)行的時(shí)候累加的。
在有些場(chǎng)景下,執(zhí)行器調(diào)用一次,在引擎內(nèi)部則掃描了多行,因此引擎掃描行數(shù)跟 rows_examined 并不是完全相同的。