查看: 445|回復: 0

如履薄冰 —— Redis懶惰刪除的巨大犧牲

發表于 2018-10-29 15:47:04
之前我們介紹了Redis懶惰刪除的特性,它是使用異步線程對已經刪除的節點進行延后內存回收。但是還不夠深入,所以本節我們要對異步線程邏輯處理的細節進行分析,看看Antirez是如何實現異步線程處理的。異步線程在Redis內部有一個特別的名稱,它就是BIO,全稱是Background IO,意思是在背后默默干活的IO線程。不過內存回收本身并不是什么IO操作,只是CPU的計算消耗可能會比較大而已。




懶惰刪除的最初實現不是異步線程
Antirez實現懶惰刪除時,它并不是一開始就想到了異步線程。最初的嘗試是使用類似于字典漸進式搬遷那樣來實現漸進式刪除回收,在主線程里。比如對于一個非常大的字典來說,懶惰刪除是采用類似于scan操作的方法,通過遍歷第一維數組來逐步刪除回收第二維鏈表的內容,等到所有鏈表都回收完了,再一次性回收第一維數組。這樣也可以達到刪除大對象時不阻塞主線程的效果。
但是說起來容易做起來卻很難,漸進式回收需要仔細控制回收頻率,它不能回收的太猛,這會導致CPU資源占用過多,也不能回收的蝸牛慢,內存回收不及時可能導致內存持續增長。Antirez需要采用合適的自適應算法來控制回收頻率。他首先想到的是檢測內存增長的趨勢是增長(+1)還是下降(-1)來漸進式調整回收頻率系數,這樣的自適應算法實現也很簡單。但是測試后發現在服務繁忙的時候,QPS會下降到正常情況下65%的水平,這點非常致命。
所以Antirez才使用了如今使用的方案——異步線程,這套方案就簡單多了,釋放內存不用為每種數據結構適配一套漸進式釋放策略,也不用搞個自適應算法來仔細控制回收頻率。將對象從全局字典中摘掉,然后往隊列里一扔,主線程就去干別的去了。異步線程從隊列里取出對象來,直接走正常的同步釋放邏輯就可以了。
不過使用異步線程也是有代價的,主線程和異步線程之間在內存回收器(jemalloc)的使用上存在競爭。這點競爭消耗是可以忽略不計的,因為Redis的主線程在內存的分配與回收上花的時間相對整體運算時間而言是極少的。
異步線程方案其實也相當復雜
剛才上面說異步線程方案很簡單,為什么這里又說它很復雜呢?因為有一點我們沒有想到,這點非常可怕,嚴重阻礙了異步線程方案的改造。那就是Redis的內部對象有共享機制。
比如集合的并集操作sunionstore用來將多個集合合并成一個新集合





我們看到新的集合包含了舊集合的所有元素。但是這里有一個我們沒看到的trick。那就是底層的字符串對象被共享了。




為什么對象共享是懶惰刪除的巨大障礙呢?因為懶惰刪除相當于徹底砍掉某個樹枝,將它扔到異步刪除隊列里去。注意這里必須是徹底刪除,而不能藕斷絲連。如果底層對象是共享的,那就做不到徹底刪除。




所以antirez為了支持懶惰刪除,將對象共享機制徹底拋棄,它將這種對象結構稱為「share-nothing」,也就是無共享設計。但是甩掉對象共享談何容易!這種對象共享機制散落在源代碼的各個角落,牽一發而動全身,改起來猶如在布滿地雷的道路上小心翼翼地行走。
不過antirez還是決心改了,他將這種改動描述為「絕望而瘋狂」,可見改動之大之深之險,前后花了好幾周的時間才改完。不過效果也是很明顯的,對象的刪除操作再也不會導致主線程卡頓了。
異步刪除的實現
主線程需要將刪除任務傳遞給異步線程,它是通過一個普通的雙向鏈表來傳遞的。因為鏈表需要支持多線程并發操作,所以它需要有鎖來保護。
執行懶惰刪除時,redis將刪除操作的相關參數封裝成一個bio_job結構,然后追加到鏈表尾部。異步線程通過遍歷鏈表摘取job元素來挨個執行異步任務。





我們注意到這個job結構有三個參數,為什么刪除對象需要三個參數呢?我們繼續看代碼





可以看到通過組合這三個參數可以實現不同結構的釋放邏輯。接下來我們繼續追蹤普通對象的異步刪除lazyfreeFreeObjectFromBioThread是如何進行的,請仔細閱讀代碼注釋








這些代碼散落在多個不同的文件,我將它們湊到了一塊便于讀者閱讀。從代碼中我們可以看到釋放一個對象要深度調用一系列函數,每種對象都有它獨特的內存回收邏輯。
隊列安全
前面提到任務隊列是一個不安全的雙向鏈表,需要使用鎖來保護它。當主線程將任務追加到隊列之前它需要加鎖,追加完畢后,再釋放鎖,還需要喚醒異步線程,如果它在休眠的話。





異步線程需要對任務隊列進行輪訓處理,依次從鏈表表頭摘取元素逐個處理。摘取元素的時候也需要加鎖,摘出來之后再解鎖。如果一個元素的沒有,它需要等待,直到主線程來喚醒它繼續工作。




研究完這些加鎖解鎖的代碼后,我開始有點當心主線程的性能。我們都知道加鎖解鎖是一個相對比較耗時的操作,尤其是悲觀鎖最為耗時。如果刪除很頻繁,主線程豈不是要頻繁加鎖解鎖。所以這里肯定還有優化空間,Java的ConcurrentLinkQueue就沒有使用這樣粗粒度的悲觀鎖,它優先使用cas來控制并發。
思考
Redis還有其它地方用到了對象共享機制么?
Java的ConcurrentLinkQueue具體是如何實現的?
歡迎工作一到五年的java工程師朋友們加入Java填坑之路:860113481
群內提供免費的Java架構學習資料(里面有高可用、高并發、高性能及分布式、Jvm性能調優、Spring源碼,MyBatis,Netty,Redis,Kafka,Mysql,Zookeeper,Tomcat,Docker,Dubbo,Nginx等多個知識點的架構資料)合理利用自己每一分每一秒的時間來學習提升自己,不要再用"沒有時間“來掩飾自己思想上的懶惰!趁年輕,使勁拼,給未來的自己一個交代!



回復

使用道具 舉報