url: http://ptc./?p=275
aof,rdb是兩種 redis持久化的機(jī)制。用于crash后,redis的恢復(fù)。
rdb的特性如下:
aof有如下特性:
兩種區(qū)別就是,一個(gè)是持續(xù)的用日志記錄寫操作,crash后利用日志恢復(fù);一個(gè)是平時(shí)寫操作的時(shí)候不觸發(fā)寫,只有手動(dòng)提交save命令,或者是關(guān)閉命令時(shí),才觸發(fā)備份操作。
選擇的標(biāo)準(zhǔn),就是看系統(tǒng)是愿意犧牲一些性能,換取更高的緩存一致性(aof),還是愿意寫操作頻繁的時(shí)候,不啟用備份來(lái)?yè)Q取更高的性能,待手動(dòng)運(yùn)行save的時(shí)候,再做備份(rdb)。rdb這個(gè)就更有些 eventually consistent的意思了。
redis的 RDB 和 AOF 持久化的區(qū)別
redis的rdb和aof模式性能對(duì)比
url:
http://blog.sina.com.cn/s/blog_4458fdda010150bh.html
由于是同一臺(tái)機(jī)器,進(jìn)行相對(duì)對(duì)比,我就不列配置了。系統(tǒng)是debian testing,kernel 3.2 686。redis 2.4.8。
測(cè)試方法是用python寫的腳本對(duì)redis數(shù)據(jù)庫(kù)進(jìn)行寫入,看寫入速度。
100000/300000/1000000是數(shù)據(jù)量,插入的都是string。第一個(gè)數(shù)據(jù)是最小時(shí)間,第二個(gè)是平均,第三個(gè)是數(shù)據(jù)大小。
100000:
dbmode: 4.8, 5.1, 1477792
aofmode: 9.1, 9.3, 3677803
300000:
dbmode: 16.5, 17.6, 4877792
aofmode: 21.1, 21.4, 11477803
1000000:
dbmode: 61, 65, 16777792
aofmode: 77, 85, 38777849
從簡(jiǎn)單分析來(lái)看,aof比rdb慢25-80%,但是大規(guī)模數(shù)據(jù)都比較支持慢25%這端。估計(jì)在低數(shù)據(jù)量下,rdb模式更加占優(yōu)勢(shì)。數(shù)據(jù)規(guī)模增長(zhǎng)時(shí),速率比接近于4:5。aof的數(shù)據(jù)比rdb數(shù)據(jù)大150%(2.5倍上下),這點(diǎn)隨著數(shù)據(jù)增長(zhǎng)基本不變。
從讀性能分析來(lái)看,兩者差異不大。同樣,數(shù)據(jù)分別是最小時(shí)間和平均時(shí)間。
dbmode: 55, 60
aofmode: 62, 63
差異在10%以內(nèi),甚至比最小-平均差異還弱?;究梢砸暈橐恢?。
redis持久化RDB和AOF
url:
http://my.oschina.net/davehe/blog/174662
Redis 持久化:
提供了多種不同級(jí)別的持久化方式:一種是RDB,另一種是AOF.
RDB 持久化可以在指定的時(shí)間間隔內(nèi)生成數(shù)據(jù)集的時(shí)間點(diǎn)快照(point-in-time snapshot)。
AOF 持久化記錄服務(wù)器執(zhí)行的所有寫操作命令,并在服務(wù)器啟動(dòng)時(shí),通過(guò)重新執(zhí)行這些命令來(lái)還原數(shù)據(jù)集。 AOF 文件中的命令全部以 Redis 協(xié)議的格式來(lái)保存,新命令會(huì)被追加到文件的末尾。 Redis 還可以在后臺(tái)對(duì) AOF 文件進(jìn)行重寫(rewrite),使得 AOF 文件的體積不會(huì)超出保存數(shù)據(jù)集狀態(tài)所需的實(shí)際大小。Redis 還可以同時(shí)使用 AOF 持久化和 RDB 持久化。 在這種情況下, 當(dāng) Redis 重啟時(shí), 它會(huì)優(yōu)先使用 AOF 文件來(lái)還原數(shù)據(jù)集, 因?yàn)?AOF 文件保存的數(shù)據(jù)集通常比 RDB
文件所保存的數(shù)據(jù)集更完整。你甚至可以關(guān)閉持久化功能,讓數(shù)據(jù)只在服務(wù)器運(yùn)行時(shí)存在。
了解 RDB 持久化和 AOF 持久化之間的異同是非常重要的, 以下幾個(gè)小節(jié)將詳細(xì)地介紹這這兩種持久化功能, 并對(duì)它們的相同和不同之處進(jìn)行說(shuō)明。
RDB 的優(yōu)點(diǎn):
RDB 是一個(gè)非常緊湊(compact)的文件,它保存了 Redis 在某個(gè)時(shí)間點(diǎn)上的數(shù)據(jù)集。 這種文件非常適合用于進(jìn)行備份: 比如說(shuō),你可以在最近的 24 小時(shí)內(nèi),每小時(shí)備份一次 RDB 文件,并且在每個(gè)月的每一天,也備份一個(gè) RDB 文件。 這樣的話,即使遇上問題,也可以隨時(shí)將數(shù)據(jù)集還原到不同的版本。RDB 非常適用于災(zāi)難恢復(fù)(disaster recovery):它只有一個(gè)文件,并且內(nèi)容都非常緊湊,可以(在加密后)將它傳送到別的數(shù)據(jù)中心,或者亞馬遜
S3 中。RDB 可以最大化 Redis 的性能:父進(jìn)程在保存 RDB 文件時(shí)唯一要做的就是 fork 出一個(gè)子進(jìn)程,然后這個(gè)子進(jìn)程就會(huì)處理接下來(lái)的所有保存工作,父進(jìn)程無(wú)須執(zhí)行任何磁盤 I/O 操作。RDB 在恢復(fù)大數(shù)據(jù)集時(shí)的速度比 AOF 的恢復(fù)速度要快。
RDB 的缺點(diǎn):
如果你需要盡量避免在服務(wù)器故障時(shí)丟失數(shù)據(jù),那么 RDB 不適合你。 雖然 Redis 允許你設(shè)置不同的保存點(diǎn)(save point)來(lái)控制保存 RDB 文件的頻率, 但是, 因?yàn)?span style="background-color:#ffff66">RDB 文件需要保存整個(gè)數(shù)據(jù)集的狀態(tài), 所以它并不是一個(gè)輕松的操作。 因此你可能會(huì)至少 5 分鐘才保存一次 RDB 文件。 在這種情況下, 一旦發(fā)生故障停機(jī), 你就可能會(huì)丟失好幾分鐘的數(shù)據(jù)。每次保存 RDB 的時(shí)候,Redis 都要 fork()
出一個(gè)子進(jìn)程,并由子進(jìn)程來(lái)進(jìn)行實(shí)際的持久化工作。 在數(shù)據(jù)集比較龐大時(shí), fork() 可能會(huì)非常耗時(shí),造成服務(wù)器在某某毫秒內(nèi)停止處理客戶端; 如果數(shù)據(jù)集非常巨大,并且 CPU 時(shí)間非常緊張的話,那么這種停止時(shí)間甚至可能會(huì)長(zhǎng)達(dá)整整一秒。 雖然 AOF 重寫也需要進(jìn)行 fork() ,但無(wú)論 AOF 重寫的執(zhí)行間隔有多長(zhǎng),數(shù)據(jù)的耐久性都不會(huì)有任何損失。
AOF 的優(yōu)點(diǎn):
使用 AOF 持久化會(huì)讓 Redis 變得非常耐久(much more durable):你可以設(shè)置不同的 fsync 策略,比如無(wú) fsync ,每秒鐘一次 fsync ,或者每次執(zhí)行寫入命令時(shí) fsync 。AOF 的默認(rèn)策略為每秒鐘 fsync 一次,在這種配置下,Redis 仍然可以保持良好的性能,并且就算發(fā)生故障停機(jī),也最多只會(huì)丟失一秒鐘的數(shù)據(jù)( fsync 會(huì)在后臺(tái)線程執(zhí)行,所以主線程可以繼續(xù)努力地處理命令請(qǐng)求)。AOF
文件是一個(gè)只進(jìn)行追加操作的日志文件(append only log), 因此對(duì) AOF 文件的寫入不需要進(jìn)行 seek , 即使日志因?yàn)槟承┰蚨宋磳懭胪暾拿睿ū热鐚懭霑r(shí)磁盤已滿,寫入中途停機(jī),等等), redis-check-aof 工具也可以輕易地修復(fù)這種問題。
Redis 可以在 AOF 文件體積變得過(guò)大時(shí),自動(dòng)地在后臺(tái)對(duì) AOF 進(jìn)行重寫: 重寫后的新 AOF 文件包含了恢復(fù)當(dāng)前數(shù)據(jù)集所需的最小命令集合。 整個(gè)重寫操作是絕對(duì)安全的,因?yàn)?Redis 在創(chuàng)建新 AOF 文件的過(guò)程中,會(huì)繼續(xù)將命令追加到現(xiàn)有的 AOF 文件里面,即使重寫過(guò)程中發(fā)生停機(jī),現(xiàn)有的 AOF 文件也不會(huì)丟失。 而一旦新 AOF 文件創(chuàng)建完畢,Redis 就會(huì)從舊 AOF 文件切換到新 AOF 文件,并開始對(duì)新 AOF 文件進(jìn)行追加操作。AOF 文件有序地保存了對(duì)數(shù)據(jù)庫(kù)執(zhí)行的所有寫入操作, 這些寫入操作以
Redis 協(xié)議的格式保存, 因此 AOF 文件的內(nèi)容非常容易被人讀懂, 對(duì)文件進(jìn)行分析(parse)也很輕松。 導(dǎo)出(export) AOF 文件也非常簡(jiǎn)單: 舉個(gè)例子, 如果你不小心執(zhí)行了 FLUSHALL 命令, 但只要 AOF 文件未被重寫, 那么只要停止服務(wù)器, 移除 AOF 文件末尾的 FLUSHALL 命令, 并重啟 Redis , 就可以將數(shù)據(jù)集恢復(fù)到 FLUSHALL 執(zhí)行之前的狀態(tài)。
AOF 的缺點(diǎn):
對(duì)于相同的數(shù)據(jù)集來(lái)說(shuō),AOF 文件的體積通常要大于 RDB 文件的體積。根據(jù)所使用的 fsync 策略,AOF 的速度可能會(huì)慢于 RDB 。 在一般情況下, 每秒 fsync 的性能依然非常高, 而關(guān)閉 fsync 可以讓 AOF 的速度和 RDB 一樣快, 即使在高負(fù)荷之下也是如此。 不過(guò)在處理巨大的寫入載入時(shí),RDB 可以提供更有保證的最大延遲時(shí)間(latency)。AOF
在過(guò)去曾經(jīng)發(fā)生過(guò)這樣的 bug : 因?yàn)閭€(gè)別命令的原因,導(dǎo)致 AOF 文件在重新載入時(shí),無(wú)法將數(shù)據(jù)集恢復(fù)成保存時(shí)的原樣。 (舉個(gè)例子,阻塞命令 BRPOPLPUSH 就曾經(jīng)引起過(guò)這樣的 bug 。) 測(cè)試套件里為這種情況添加了測(cè)試: 它們會(huì)自動(dòng)生成隨機(jī)的、復(fù)雜的數(shù)據(jù)集, 并通過(guò)重新載入這些數(shù)據(jù)來(lái)確保一切正常。 雖然這種 bug 在 AOF 文件中并不常見, 但是對(duì)比來(lái)說(shuō), RDB 幾乎是不可能出現(xiàn)這種 bug 的。
RDB 和 AOF ,我應(yīng)該用哪一個(gè)?
一般來(lái)說(shuō),如果想達(dá)到足以媲美 PostgreSQL 的數(shù)據(jù)安全性, 你應(yīng)該同時(shí)使用兩種持久化功能。如果你非常關(guān)心你的數(shù)據(jù),但仍然可以承受數(shù)分鐘以內(nèi)的數(shù)據(jù)丟失, 那么你可以只使用 RDB 持久化。有很多用戶都只使用 AOF 持久化, 但我們并不推薦這種方式: 因?yàn)槎〞r(shí)生成 RDB 快照(snapshot)非常便于進(jìn)行數(shù)據(jù)庫(kù)備份, 并且 RDB 恢復(fù)數(shù)據(jù)集的速度也要比 AOF 恢復(fù)的速度要快, 除此之外, 使用 RDB 還可以避免之前提到的
AOF 程序的 bug 。因?yàn)橐陨咸岬降姆N種原因, 未來(lái)我們可能會(huì)將 AOF 和 RDB 整合成單個(gè)持久化模型。 (這是一個(gè)長(zhǎng)期計(jì)劃。)
RDB 快照:
在默認(rèn)情況下, Redis 將數(shù)據(jù)庫(kù)快照保存在名字為 dump.rdb 的二進(jìn)制文件中。你可以對(duì) Redis 進(jìn)行設(shè)置, 讓它在“ N 秒內(nèi)數(shù)據(jù)集至少有 M 個(gè)改動(dòng)”這一條件被滿足時(shí), 自動(dòng)保存一次數(shù)據(jù)集。你也可以通過(guò)調(diào)用 SAVE 或者 BGSAVE , 手動(dòng)讓 Redis 進(jìn)行數(shù)據(jù)集保存操作。比如說(shuō), 以下設(shè)置會(huì)讓 Redis
在滿足“ 60 秒內(nèi)有至少有 1000 個(gè)鍵被改動(dòng)”這一條件時(shí), 自動(dòng)保存一次數(shù)據(jù)集:
save 60 1000
這種持久化方式被稱為快照(snapshot)。
快照的運(yùn)作方式:
當(dāng) Redis 需要保存 dump.rdb 文件時(shí), 服務(wù)器執(zhí)行以下操作:
Redis 調(diào)用 fork() ,同時(shí)擁有父進(jìn)程和子進(jìn)程。
子進(jìn)程將數(shù)據(jù)集寫入到一個(gè)臨時(shí) RDB 文件中。
當(dāng)子進(jìn)程完成對(duì)新 RDB 文件的寫入時(shí),Redis 用新 RDB 文件替換原來(lái)的 RDB 文件,并刪除舊的 RDB 文件。
這種工作方式使得 Redis 可以從寫時(shí)復(fù)制(copy-on-write)機(jī)制中獲益。
只進(jìn)行追加操作的文件(append-only file,AOF)
快照功能并不是非常耐久(durable): 如果 Redis 因?yàn)槟承┰蚨斐晒收贤C(jī), 那么服務(wù)器將丟失最近寫入、且仍未保存到快照中的那些數(shù)據(jù)。盡管對(duì)于某些程序來(lái)說(shuō), 數(shù)據(jù)的耐久性并不是最重要的考慮因素, 但是對(duì)于那些追求完全耐久能力(full durability)的程序來(lái)說(shuō), 快照功能就不太適用了。
從 1.1 版本開始, Redis 增加了一種完全耐久的持久化方式: AOF 持久化。
你可以通過(guò)修改配置文件來(lái)打開 AOF 功能:
appendonly yes
從現(xiàn)在開始, 每當(dāng) Redis 執(zhí)行一個(gè)改變數(shù)據(jù)集的命令時(shí)(比如 SET), 這個(gè)命令就會(huì)被追加到 AOF 文件的末尾。
這樣的話, 當(dāng) Redis 重新啟時(shí), 程序就可以通過(guò)重新執(zhí)行 AOF 文件中的命令來(lái)達(dá)到重建數(shù)據(jù)集的目的。
AOF 重寫:
因?yàn)?AOF 的運(yùn)作方式是不斷地將命令追加到文件的末尾, 所以隨著寫入命令的不斷增加, AOF 文件的體積也會(huì)變得越來(lái)越大。舉個(gè)例子, 如果你對(duì)一個(gè)計(jì)數(shù)器調(diào)用了 100 次 INCR , 那么僅僅是為了保存這個(gè)計(jì)數(shù)器的當(dāng)前值, AOF 文件就需要使用 100 條記錄(entry)。然而在實(shí)際上, 只使用一條 SET 命令已經(jīng)足以保存計(jì)數(shù)器的當(dāng)前值了, 其余 99 條記錄實(shí)際上都是多余的。為了處理這種情況, Redis 支持一種有趣的特性: 可以在不打斷服務(wù)客戶端的情況下, 對(duì) AOF 文件進(jìn)行重建(rebuild)。執(zhí)行
BGREWRITEAOF 命令, Redis 將生成一個(gè)新的 AOF 文件, 這個(gè)文件包含重建當(dāng)前數(shù)據(jù)集所需的最少命令。
AOF 有多耐久?
你可以配置 Redis 多久才將數(shù)據(jù) fsync 到磁盤一次。
有三個(gè)選項(xiàng):
每次有新命令追加到 AOF 文件時(shí)就執(zhí)行一次 fsync :非常慢,也非常安全。
每秒 fsync 一次:足夠快(和使用 RDB 持久化差不多),并且在故障時(shí)只會(huì)丟失 1 秒鐘的數(shù)據(jù)。
從不 fsync :將數(shù)據(jù)交給操作系統(tǒng)來(lái)處理。更快,也更不安全的選擇。
推薦(并且也是默認(rèn))的措施為每秒 fsync 一次, 這種 fsync 策略可以兼顧速度和安全性。
總是 fsync 的策略在實(shí)際使用中非常慢, 即使在 Redis 2.0 對(duì)相關(guān)的程序進(jìn)行了改進(jìn)之后仍是如此 —— 頻繁調(diào)用 fsync 注定了這種策略不可能快得起來(lái)。
如果 AOF 文件出錯(cuò)了,怎么辦?
服務(wù)器可能在程序正在對(duì) AOF 文件進(jìn)行寫入時(shí)停機(jī), 如果停機(jī)造成了 AOF 文件出錯(cuò)(corrupt), 那么 Redis 在重啟時(shí)會(huì)拒絕載入這個(gè) AOF 文件, 從而確保數(shù)據(jù)的一致性不會(huì)被破壞。
當(dāng)發(fā)生這種情況時(shí), 可以用以下方法來(lái)修復(fù)出錯(cuò)的 AOF 文件:
為現(xiàn)有的 AOF 文件創(chuàng)建一個(gè)備份。
使用 Redis 附帶的 redis-check-aof 程序,對(duì)原來(lái)的 AOF 文件進(jìn)行修復(fù)。
$ redis-check-aof --fix
(可選)使用 diff -u 對(duì)比修復(fù)后的 AOF 文件和原始 AOF 文件的備份,查看兩個(gè)文件之間的不同之處。
重啟 Redis 服務(wù)器,等待服務(wù)器載入修復(fù)后的 AOF 文件,并進(jìn)行數(shù)據(jù)恢復(fù)。
AOF 的運(yùn)作方式
AOF 重寫和 RDB 創(chuàng)建快照一樣,都巧妙地利用了寫時(shí)復(fù)制機(jī)制。
以下是 AOF 重寫的執(zhí)行步驟:
Redis 執(zhí)行 fork() ,現(xiàn)在同時(shí)擁有父進(jìn)程和子進(jìn)程。
子進(jìn)程開始將新 AOF 文件的內(nèi)容寫入到臨時(shí)文件。對(duì)于所有新執(zhí)行的寫入命令,父進(jìn)程一邊將它們累積到一個(gè)內(nèi)存緩存中,一邊將這些改動(dòng)追加到現(xiàn)有 AOF 文件的末尾: 這樣即使在重寫的中途發(fā)生停機(jī),現(xiàn)有的 AOF 文件也還是安全的。當(dāng)子進(jìn)程完成重寫工作時(shí),它給父進(jìn)程發(fā)送一個(gè)信號(hào),父進(jìn)程在接收到信號(hào)之后,將內(nèi)存緩存中的所有數(shù)據(jù)追加到新 AOF 文件的末尾?,F(xiàn)在 Redis 原子地用新文件替換舊文件,之后所有命令都會(huì)直接追加到新 AOF 文件的末尾。
為最新的 dump.rdb 文件創(chuàng)建一個(gè)備份。
將備份放到一個(gè)安全的地方。
執(zhí)行以下兩條命令:
redis-cli> CONFIG SET appendonly yes
redis-cli> CONFIG SET save ""
確保命令執(zhí)行之后,數(shù)據(jù)庫(kù)的鍵的數(shù)量沒有改變。
確保寫命令會(huì)被正確地追加到 AOF 文件的末尾。
步驟 3 執(zhí)行的第一條命令開啟了 AOF 功能: Redis 會(huì)阻塞直到初始 AOF 文件創(chuàng)建完成為止, 之后 Redis 會(huì)繼續(xù)處理命令請(qǐng)求, 并開始將寫入命令追加到 AOF 文件末尾。
步驟 3 執(zhí)行的第二條命令用于關(guān)閉 RDB 功能。 這一步是可選的, 如果你愿意的話, 也可以同時(shí)使用 RDB 和 AOF 這兩種持久化功能。
別忘了在 redis.conf 中打開 AOF 功能! 否則的話, 服務(wù)器重啟之后, 之前通過(guò) CONFIG SET 設(shè)置的配置就會(huì)被遺忘, 程序會(huì)按原來(lái)的配置來(lái)啟動(dòng)服務(wù)器。
RDB 和 AOF 之間的相互作用:
在版本號(hào)大于等于 2.4 的 Redis 中, BGSAVE 執(zhí)行的過(guò)程中, 不可以執(zhí)行 BGREWRITEAOF 。 反過(guò)來(lái)說(shuō), 在 BGREWRITEAOF 執(zhí)行的過(guò)程中, 也不可以執(zhí)行 BGSAVE 。
這可以防止兩個(gè) Redis 后臺(tái)進(jìn)程同時(shí)對(duì)磁盤進(jìn)行大量的 I/O 操作。
如果 BGSAVE 正在執(zhí)行, 并且用戶顯示地調(diào)用 BGREWRITEAOF 命令, 那么服務(wù)器將向用戶回復(fù)一個(gè) OK 狀態(tài), 并告知用戶, BGREWRITEAOF 已經(jīng)被預(yù)定執(zhí)行: 一旦 BGSAVE 執(zhí)行完畢, BGREWRITEAOF 就會(huì)正式開始。當(dāng) Redis 啟動(dòng)時(shí), 如果 RDB 持久化和 AOF 持久化都被打開了, 那么程序會(huì)優(yōu)先使用 AOF 文件來(lái)恢復(fù)數(shù)據(jù)集, 因?yàn)?AOF 文件所保存的數(shù)據(jù)通常是最完整的。
備份 Redis 數(shù)據(jù):
Redis 對(duì)于數(shù)據(jù)備份是非常友好的, 因?yàn)槟憧梢栽诜?wù)器運(yùn)行的時(shí)候?qū)?RDB 文件進(jìn)行復(fù)制: RDB 文件一旦被創(chuàng)建, 就不會(huì)進(jìn)行任何修改。 當(dāng)服務(wù)器要?jiǎng)?chuàng)建一個(gè)新的 RDB 文件時(shí), 它先將文件的內(nèi)容保存在一個(gè)臨時(shí)文件里面, 當(dāng)臨時(shí)文件寫入完畢時(shí), 程序才使用 原子地用臨時(shí)文件替換原來(lái)的 RDB 文件。這也就是說(shuō), 無(wú)論何時(shí), 復(fù)制 RDB 文件都是絕對(duì)安全的。
|