Redis 提供了多種不同級別的持久化方式:
- RDB 持久化可以在指定的時間間隔內(nèi)生成數(shù)據(jù)集的時間點快照(point-in-time snapshot)。
- AOF 持久化記錄服務(wù)器執(zhí)行的所有寫操作命令,并在服務(wù)器啟動時,通過重新執(zhí)行這些命令來還原數(shù)據(jù)集。 AOF 文件中的命令全部以 Redis 協(xié)議的格式來保存,新命令會被追加到文件的末尾。 Redis 還可以在后臺對 AOF 文件進(jìn)行重寫(rewrite),使得 AOF 文件的體積不會超出保存數(shù)據(jù)集狀態(tài)所需的實際大小。
- Redis 還可以同時使用 AOF 持久化和 RDB 持久化。 在這種情況下, 當(dāng) Redis 重啟時, 它會優(yōu)先使用 AOF 文件來還原數(shù)據(jù)集, 因為 AOF 文件保存的數(shù)據(jù)集通常比 RDB 文件所保存的數(shù)據(jù)集更完整。
你甚至可以關(guān)閉持久化功能,讓數(shù)據(jù)只在服務(wù)器運行時存在。
了解 RDB 持久化和 AOF 持久化之間的異同是非常重要的, 以下幾個小節(jié)將詳細(xì)地介紹這這兩種持久化功能, 并對它們的相同和不同之處進(jìn)行說明。
-
1 RDB(Redis DataBase)
在指定的時間間隔內(nèi)將內(nèi)存中的數(shù)據(jù)集快照寫入磁盤,
也就是行話講的Snapshot快照,它恢復(fù)時是將快照文件直接讀到內(nèi)存里Redis會單獨創(chuàng)建(fork)一個子進(jìn)程來進(jìn)行持久化,會先將數(shù)據(jù)寫入到一個臨時文件中,待持久化過程都結(jié)束了,再用這個臨時文件替換上次持久化好的文件。整個過程中,主進(jìn)程是不進(jìn)行任何IO操作的,這就確保了極高的性能
如果需要進(jìn)行大規(guī)模數(shù)據(jù)的恢復(fù),且對于數(shù)據(jù)恢復(fù)的完整性不是非常敏感,那RDB方式要比AOF方式更加的高效。RDB的缺點是最后一次持久化后的數(shù)據(jù)可能丟失。
Fork
fork的作用是復(fù)制一個與當(dāng)前進(jìn)程一樣的進(jìn)程。新進(jìn)程的所有數(shù)據(jù)(變量、環(huán)境變量、程序計數(shù)器等)數(shù)值都和原進(jìn)程一致,但是是一個全新的進(jìn)程,并作為原進(jìn)程的子進(jìn)程rdb 保存的是dump.rdb文件
RDB 快照
在默認(rèn)情況下, Redis 將數(shù)據(jù)庫快照保存在名字為 dump.rdb 的二進(jìn)制文件中。
你可以對 Redis 進(jìn)行設(shè)置, 讓它在“ N 秒內(nèi)數(shù)據(jù)集至少有 M 個改動”這一條件被滿足時, 自動保存一次數(shù)據(jù)集。
你也可以通過調(diào)用 SAVE 或者 BGSAVE , 手動讓 Redis 進(jìn)行數(shù)據(jù)集保存操作。
比如說, 以下設(shè)置會讓 Redis 在滿足“ 60 秒內(nèi)有至少有 1000 個鍵被改動”這一條件時, 自動保存一次數(shù)據(jù)集:
```
################################ SNAPSHOTTING ################################
#
# Save the DB on disk:
#
# save <seconds> <changes>
#
# Will save the DB if both the given number of seconds and the given
# number of write operations against the DB occurred.
#
# In the example below the behaviour will be to save:
# after 900 sec (15 min) if at least 1 key changed
# after 300 sec (5 min) if at least 10 keys changed
# after 60 sec if at least 10000 keys changed
#
# Note: you can disable saving completely by commenting out all "save" lines.
#
# It is also possible to remove all the previously configured save
# points by adding a save directive with a single empty string argument
# like in the following example:
#
# save ""
save 900 1
save 300 10
save 60 10000 # 60 秒內(nèi)有至少有 10000 個鍵被改動
```
這種持久化方式被稱為快照(snapshot)。
##### 快照的運作方式
當(dāng) Redis 需要保存 dump.rdb 文件時, 服務(wù)器執(zhí)行以下操作:
Redis 調(diào)用 fork() ,同時擁有父進(jìn)程和子進(jìn)程。
子進(jìn)程將數(shù)據(jù)集寫入到一個臨時 RDB 文件中。
當(dāng)子進(jìn)程完成對新 RDB 文件的寫入時,Redis 用新 RDB 文件替換原來的 RDB 文件,并刪除舊的 RDB 文件。
這種工作方式使得 Redis 可以從寫時復(fù)制(copy-on-write)機制中獲益。
##### 如何觸發(fā)RDB快照
配置文件中默認(rèn)的快照配置
冷拷貝后重新使用
可以cp dump.rdb dump_new.rdb
命令save或者是bgsave
Save:save時只管保存,其它不管,全部阻塞
BGSAVE:Redis會在后臺異步進(jìn)行快照操作,快照同時還可以響應(yīng)客戶端請求??梢酝ㄟ^lastsave命令獲取最后一次成功執(zhí)行快照的時間
執(zhí)行flushall命令,也會產(chǎn)生dump.rdb文件,但里面是空的,無意義
##### 如何恢復(fù)
將備份文件 (dump.rdb) 移動到 redis 安裝目錄并啟動服務(wù)即可
CONFIG GET dir獲取目錄
##### 優(yōu)勢
- RDB 是一個非常緊湊(compact)的文件,它保存了 Redis 在某個時間點上的數(shù)據(jù)集。 這種文件非常適合用于進(jìn)行備份: 比如說,你可以在最近的 24 小時內(nèi),每小時備份一次 RDB 文件,并且在每個月的每一天,也備份一個 RDB 文件。 這樣的話,即使遇上問題,也可以隨時將數(shù)據(jù)集還原到不同的版本。
- RDB 非常適用于災(zāi)難恢復(fù)(disaster recovery):它只有一個文件,并且內(nèi)容都非常緊湊。
-RDB 可以最大化 Redis 的性能:父進(jìn)程在保存 RDB 文件時唯一要做的就是 fork 出一個子進(jìn)程,然后這個子進(jìn)程就會處理接下來的所有保存工作,父進(jìn)程無須執(zhí)行任何磁盤 I/O 操作。
-RDB 在恢復(fù)大數(shù)據(jù)集時的速度比 AOF 的恢復(fù)速度要快。
-適合大規(guī)模的數(shù)據(jù)恢復(fù)
-對數(shù)據(jù)完整性和一致性要求不高
##### 劣勢
-如果你需要盡量避免在服務(wù)器故障時丟失數(shù)據(jù),那么 RDB 不適合你。 雖然 Redis 允許你設(shè)置不同的保存點(save point)來控制保存 RDB 文件的頻率, 但是, 因為RDB 文件需要保存整個數(shù)據(jù)集的狀態(tài), 所以它并不是一個輕松的操作。 因此你可能會至少 5 分鐘才保存一次 RDB 文件。 在這種情況下, 一旦發(fā)生故障停機, 你就可能會丟失好幾分鐘的數(shù)據(jù)。
-每次保存 RDB 的時候,Redis 都要 fork() 出一個子進(jìn)程,并由子進(jìn)程來進(jìn)行實際的持久化工作。 在數(shù)據(jù)集比較龐大時, fork() 可能會非常耗時,造成服務(wù)器在某某毫秒內(nèi)停止處理客戶端; 如果數(shù)據(jù)集非常巨大,并且 CPU 時間非常緊張的話,那么這種停止時間甚至可能會長達(dá)整整一秒。 雖然 AOF 重寫也需要進(jìn)行 fork() ,但無論 AOF 重寫的執(zhí)行間隔有多長,數(shù)據(jù)的耐久性都不會有任何損失。
##### 如何停止
動態(tài)所有停止RDB保存規(guī)則的方法:redis-cli config set save ""
-
2 AOF(Append Only File)
是什么:
以日志的形式來記錄每個寫操作,將Redis執(zhí)行過的所有寫指令記錄下來(讀操作不記錄),只許追加文件但不可以改寫文件,redis啟動之初會讀取該文件重新構(gòu)建數(shù)據(jù),換言之,redis重啟的話就根據(jù)日志文件的內(nèi)容將寫指令從前到后執(zhí)行一次以完成數(shù)據(jù)的恢復(fù)工作Aof保存的是appendonly.aof文件
每修改同步:appendfsync always 同步持久化 每次發(fā)生數(shù)據(jù)變更會被立即記錄到磁盤 ,性能較差但數(shù)據(jù)完整性比較好
每秒同步:appendfsync everysec 異步操作,每秒記錄 如果一秒內(nèi)宕機,有數(shù)據(jù)丟失
不同步:appendfsync no 從不同步
-
APPEND ONLY MODE追加
appendonly:是否開啟AOF
appendfilename:AOF的文件名
appendfsync
always:同步持久化 每次發(fā)生數(shù)據(jù)變更會被立即記錄到磁盤 性能較差但數(shù)據(jù)完整性比較好
everysec:出廠默認(rèn)推薦,異步操作,每秒記錄 如果一秒內(nèi)宕機,有數(shù)據(jù)丟失
no:不持久化
no-appendfsync-on-rewrite:重寫時是否可以運用Appendfsync,用默認(rèn)no即可,保證數(shù)據(jù)安全性。
auto-aof-rewrite-min-size:設(shè)置重寫的基準(zhǔn)值
auto-aof-rewrite-percentage:設(shè)置重寫的基準(zhǔn)值
AOF啟動/修復(fù)/恢復(fù)
- 正?;謴?fù)
啟動:設(shè)置Yes,修改默認(rèn)的appendonly no,改為yes
將有數(shù)據(jù)的aof文件復(fù)制一份保存到對應(yīng)目錄(config get dir)
恢復(fù):重啟redis然后重新加載
- 異?;謴?fù)
啟動:設(shè)置Yes,修改默認(rèn)的appendonly no,改為yes
備份被寫壞的AOF文件
修復(fù):
redis-check-aof --fix進(jìn)行修復(fù)
恢復(fù):重啟redis然后重新加載
-
rewrite
是什么:
AOF采用文件追加方式,文件會越來越大為避免出現(xiàn)此種情況,新增了重寫機制,當(dāng)AOF文件的大小超過所設(shè)定的閾值時,Redis就會啟動AOF文件的內(nèi)容壓縮,只保留可以恢復(fù)數(shù)據(jù)的最小指令集.可以使用命令bgrewriteaof重寫原理
AOF文件持續(xù)增長而過大時,會fork出一條新進(jìn)程來將文件重寫(也是先寫臨時文件最后再rename),遍歷新進(jìn)程的內(nèi)存中數(shù)據(jù),每條記錄有一條的Set語句。重寫aof文件的操作,并沒有讀取舊的aof文件,而是將整個內(nèi)存中的數(shù)據(jù)庫內(nèi)容用命令的方式重寫了一個新的aof文件,這點和快照有點類似觸發(fā)機制
Redis會記錄上次重寫時的AOF大小,默認(rèn)配置是當(dāng)AOF文件大小是上次rewrite后大小的一倍且文件大于64M時觸發(fā) -
優(yōu)勢
- 使用 AOF 持久化會讓 Redis 變得非常耐久(much more durable):你可以設(shè)置不同的 fsync 策略,比如無 fsync ,每秒鐘一次 fsync ,或者每次執(zhí)行寫入命令時 fsync 。 AOF 的默認(rèn)策略為每秒鐘 fsync 一次,在這種配置下,Redis 仍然可以保持良好的性能,并且就算發(fā)生故障停機,也最多只會丟失一秒鐘的數(shù)據(jù)( fsync 會在后臺線程執(zhí)行,所以主線程可以繼續(xù)努力地處理命令請求)。 - AOF 文件是一個只進(jìn)行追加操作的日志文件(append only log), 因此對 AOF 文件的寫入不需要進(jìn)行 seek , 即使日志因為某些原因而包含了未寫入完整的命令(比如寫入時磁盤已滿,寫入中途停機,等等), redis-check-aof 工具也可以輕易地修復(fù)這種問題。 - Redis 可以在 AOF 文件體積變得過大時,自動地在后臺對 AOF 進(jìn)行重寫: 重寫后的新 AOF 文件包含了恢復(fù)當(dāng)前數(shù)據(jù)集所需的最小命令集合。 整個重寫操作是絕對安全的,因為 Redis 在創(chuàng)建新 AOF 文件的過程中,會繼續(xù)將命令追加到現(xiàn)有的 AOF 文件里面,即使重寫過程中發(fā)生停機,現(xiàn)有的 AOF 文件也不會丟失。 而一旦新 AOF 文件創(chuàng)建完畢,Redis 就會從舊 AOF 文件切換到新 AOF 文件,并開始對新 AOF 文件進(jìn)行追加操作。 - AOF 文件有序地保存了對數(shù)據(jù)庫執(zhí)行的所有寫入操作, 這些寫入操作以 Redis 協(xié)議的格式保存, 因此 AOF 文件的內(nèi)容非常容易被人讀懂, 對文件進(jìn)行分析(parse)也很輕松。 導(dǎo)出(export) AOF 文件也非常簡單: 舉個例子, 如果你不小心執(zhí)行了 FLUSHALL 命令, 但只要 AOF 文件未被重寫, 那么只要停止服務(wù)器, 移除 AOF 文件末尾的 FLUSHALL 命令, 并重啟 Redis , 就可以將數(shù)據(jù)集恢復(fù)到 FLUSHALL 執(zhí)行之前的狀態(tài)。 -
劣勢
- 對于相同的數(shù)據(jù)集來說,AOF 文件的體積通常要大于 RDB 文件的體積。 - 根據(jù)所使用的 fsync 策略,AOF 的速度可能會慢于 RDB 。 在一般情況下, 每秒 fsync 的性能依然非常高, 而關(guān)閉 fsync 可以讓 AOF 的速度和 RDB 一樣快, 即使在高負(fù)荷之下也是如此。 不過在處理巨大的寫入載入時,RDB 可以提供更有保證的最大延遲時間(latency)。 - AOF 在過去曾經(jīng)發(fā)生過這樣的 bug : 因為個別命令的原因,導(dǎo)致 AOF 文件在重新載入時,無法將數(shù)據(jù)集恢復(fù)成保存時的原樣。 (舉個例子,阻塞命令 BRPOPLPUSH 就曾經(jīng)引起過這樣的 bug 。) 測試套件里為這種情況添加了測試: 它們會自動生成隨機的、復(fù)雜的數(shù)據(jù)集, 并通過重新載入這些數(shù)據(jù)來確保一切正常。 雖然這種 bug 在 AOF 文件中并不常見, 但是對比來說, RDB 幾乎是不可能出現(xiàn)這種 bug 的。 -
AOF 重寫
因為 AOF 的運作方式是不斷地將命令追加到文件的末尾, 所以隨著寫入命令的不斷增加, AOF 文件的體積也會變得越來越大。 舉個例子, 如果你對一個計數(shù)器調(diào)用了 100 次 INCR , 那么僅僅是為了保存這個計數(shù)器的當(dāng)前值, AOF 文件就需要使用 100 條記錄(entry)。 然而在實際上, 只使用一條 SET 命令已經(jīng)足以保存計數(shù)器的當(dāng)前值了, 其余 99 條記錄實際上都是多余的。 為了處理這種情況, Redis 支持一種有趣的特性: 可以在不打斷服務(wù)客戶端的情況下, 對 AOF 文件進(jìn)行重建(rebuild)。 執(zhí)行 BGREWRITEAOF 命令, Redis 將生成一個新的 AOF 文件, 這個文件包含重建當(dāng)前數(shù)據(jù)集所需的最少命令。 Redis 2.2 需要自己手動執(zhí)行 BGREWRITEAOF 命令; Redis 2.4 則可以自動觸發(fā) AOF 重寫, 具體信息請查看 2.4 的示例配置文件。 -
AOF 有多耐久?
你可以配置 Redis 多久才將數(shù)據(jù) fsync 到磁盤一次。 有三個選項: 每次有新命令追加到 AOF 文件時就執(zhí)行一次 fsync :非常慢,也非常安全。 每秒 fsync 一次:足夠快(和使用 RDB 持久化差不多),并且在故障時只會丟失 1 秒鐘的數(shù)據(jù)。 從不 fsync :將數(shù)據(jù)交給操作系統(tǒng)來處理。更快,也更不安全的選擇。 推薦(并且也是默認(rèn))的措施為每秒 fsync 一次, 這種 fsync 策略可以兼顧速度和安全性。 總是 fsync 的策略在實際使用中非常慢, 即使在 Redis 2.0 對相關(guān)的程序進(jìn)行了改進(jìn)之后仍是如此 —— 頻繁調(diào)用 fsync 注定了這種策略不可能快得起來。 如果 AOF 文件出錯了,怎么辦? 服務(wù)器可能在程序正在對 AOF 文件進(jìn)行寫入時停機, 如果停機造成了 AOF 文件出錯(corrupt), 那么 Redis 在重啟時會拒絕載入這個 AOF 文件, 從而確保數(shù)據(jù)的一致性不會被破壞。 當(dāng)發(fā)生這種情況時, 可以用以下方法來修復(fù)出錯的 AOF 文件: 為現(xiàn)有的 AOF 文件創(chuàng)建一個備份。 使用 Redis 附帶的 redis-check-aof 程序,對原來的 AOF 文件進(jìn)行修復(fù)。 $ redis-check-aof --fix (可選)使用 diff -u 對比修復(fù)后的 AOF 文件和原始 AOF 文件的備份,查看兩個文件之間的不同之處。 重啟 Redis 服務(wù)器,等待服務(wù)器載入修復(fù)后的 AOF 文件,并進(jìn)行數(shù)據(jù)恢復(fù)。 -
AOF 的運作方式
AOF 重寫和 RDB 創(chuàng)建快照一樣,都巧妙地利用了寫時復(fù)制機制。 以下是 AOF 重寫的執(zhí)行步驟: - Redis 執(zhí)行 fork() ,現(xiàn)在同時擁有父進(jìn)程和子進(jìn)程。 - 子進(jìn)程開始將新 AOF 文件的內(nèi)容寫入到臨時文件。 - 對于所有新執(zhí)行的寫入命令,父進(jìn)程一邊將它們累積到一個內(nèi)存緩存中,一邊將這些改動追加到現(xiàn)有 AOF 文件的末尾: 這樣即使在重寫的中途發(fā)生停機,現(xiàn)有的 AOF 文件也還是安全的。 - 當(dāng)子進(jìn)程完成重寫工作時,它給父進(jìn)程發(fā)送一個信號,父進(jìn)程在接收到信號之后,將內(nèi)存緩存中的所有數(shù)據(jù)追加到新 AOF 文件的末尾。 - 搞定!現(xiàn)在 Redis 原子地用新文件替換舊文件,之后所有命令都會直接追加到新 AOF 文件的末尾。 怎么從 RDB 持久化切換到 AOF 持久化 -
怎么從 RDB 持久化切換到 AOF 持久化
在 Redis 2.2 或以上版本,可以在不重啟的情況下,從 RDB 切換到 AOF : 為最新的 dump.rdb 文件創(chuàng)建一個備份。 將備份放到一個安全的地方。 執(zhí)行以下兩條命令: redis-cli> CONFIG SET appendonly yes redis-cli> CONFIG SET save "" 確保命令執(zhí)行之后,數(shù)據(jù)庫的鍵的數(shù)量沒有改變。 確保寫命令會被正確地追加到 AOF 文件的末尾。 步驟 3 執(zhí)行的第一條命令開啟了 AOF 功能: Redis 會阻塞直到初始 AOF 文件創(chuàng)建完成為止, 之后 Redis 會繼續(xù)處理命令請求, 并開始將寫入命令追加到 AOF 文件末尾。 步驟 3 執(zhí)行的第二條命令用于關(guān)閉 RDB 功能。 這一步是可選的, 如果你愿意的話, 也可以同時使用 RDB 和 AOF 這兩種持久化功能。 -
RDB 和 AOF 之間的相互作用
在版本號大于等于 2.4 的 Redis 中, BGSAVE 執(zhí)行的過程中, 不可以執(zhí)行 BGREWRITEAOF 。 反過來說, 在 BGREWRITEAOF 執(zhí)行的過程中, 也不可以執(zhí)行 BGSAVE 。
這可以防止兩個 Redis 后臺進(jìn)程同時對磁盤進(jìn)行大量的 I/O 操作。
如果 BGSAVE 正在執(zhí)行, 并且用戶顯示地調(diào)用 BGREWRITEAOF 命令, 那么服務(wù)器將向用戶回復(fù)一個 OK 狀態(tài), 并告知用戶, BGREWRITEAOF 已經(jīng)被預(yù)定執(zhí)行: 一旦 BGSAVE 執(zhí)行完畢, BGREWRITEAOF 就會正式開始。
當(dāng) Redis 啟動時, 如果 RDB 持久化和 AOF 持久化都被打開了, 那么程序會優(yōu)先使用 AOF 文件來恢復(fù)數(shù)據(jù)集, 因為 AOF 文件所保存的數(shù)據(jù)通常是最完整的
-
備份 Redis 數(shù)
磁盤故障, 節(jié)點失效, 諸如此類的問題都可能讓你的數(shù)據(jù)消失不見, 不進(jìn)行備份是非常危險的。
Redis 對于數(shù)據(jù)備份是非常友好的, 因為你可以在服務(wù)器運行的時候?qū)?RDB 文件進(jìn)行復(fù)制: RDB 文件一旦被創(chuàng)建, 就不會進(jìn)行任何修改。 當(dāng)服務(wù)器要創(chuàng)建一個新的 RDB 文件時, 它先將文件的內(nèi)容保存在一個臨時文件里面, 當(dāng)臨時文件寫入完畢時, 程序才使用 rename(2) 原子地用臨時文件替換原來的 RDB 文件。
這也就是說, 無論何時, 復(fù)制 RDB 文件都是絕對安全的。
以下是我們的建議:
創(chuàng)建一個定期任務(wù)(cron job), 每小時將一個 RDB 文件備份到一個文件夾, 并且每天將一個 RDB 文件備份到另一個文件夾。 確??煺盏膫浞荻紟в邢鄳?yīng)的日期和時間信息, 每次執(zhí)行定期任務(wù)腳本時, 使用 find 命令來刪除過期的快照: 比如說, 你可以保留最近 48 小時內(nèi)的每小時快照, 還可以保留最近一兩個月的每日快照。 至少每天一次, 將 RDB 備份到你的數(shù)據(jù)中心之外, 或者至少是備份到你運行 Redis 服務(wù)器的物理機器之外。 -
總結(jié)(Which one)
RDB持久化方式能夠在指定的時間間隔能對你的數(shù)據(jù)進(jìn)行快照存儲AOF持久化方式記錄每次對服務(wù)器寫的操作,當(dāng)服務(wù)器重啟的時候會重新執(zhí)行這些命令來恢復(fù)原始的數(shù)據(jù),AOF命令以redis協(xié)議追加保存每次寫的操作到文件末尾.
Redis還能對AOF文件進(jìn)行后臺重寫,使得AOF文件的體積不至于過大只做緩存:如果你只希望你的數(shù)據(jù)在服務(wù)器運行的時候存在,你也可以不使用任何持久化方式.同時開啟兩種持久化方式在這種情況下,當(dāng)redis重啟的時候會優(yōu)先載入AOF文件來恢復(fù)原始的數(shù)據(jù)因為在通常情況下AOF文件保存的數(shù)據(jù)集要比RDB文件保存的數(shù)據(jù)集要完整.
RDB的數(shù)據(jù)不實時,同時使用兩者時服務(wù)器重啟也只會找AOF文件。那要不要只使用AOF呢?
建議不要,因為RDB更適合用于備份數(shù)據(jù)庫(AOF在不斷變化不好備份,快速重啟,而且不會有AOF可能潛在的bug,留著作為一個萬一的手段。